我在Windows 10上成功运行ChatGLM

我在Windows 10上成功运行ChatGLM-6B对话语言模型，附详细过程

2条评论

ChatGLM-6B是一个基于General Language Model (GLM)架构的开源对话语言模型，支持中英双语。该模型使用了和ChatGPT类似的技术进行优化，经过1T标识符的中英双语训练，同时辅以监督微调、反馈自助和人类反馈强化学习等技术，共有62亿参数。

ChatGLM-6B由清华大学 KEG 实验室和智谱AI共同开发，通过模型量化技术，用户可以在消费级显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。

ChatGLM-6B可以简单的理解为本地私有部署的弱化版ChatGPT。

经过多次尝试，xiaoz终于成功地在Windows 10上运行了ChatGLM-6B对话语言模型。在此记录并分享整个过程。

阅读基础

本文适合对人工智能感兴趣的研究人员阅读，需要一定的编程基础和计算机基础。如果您熟悉Python编程语言，那就更能够更好地理解本文。

硬件 & 软件准备

ChatGLM-6B对软硬件都有一定的要求，以下是xiaoz的硬件信息：

软件环境：

这篇文章假设您有具有一定的编程基础和计算机基础，因此并不会详细介绍上述软件工具的安装和使用，如果您对此并不熟悉，建议直接放弃阅读。

部署ChatGLM-6B

ChatGLM-6B已在Github开源： https://github.com/THUDM/ChatGLM-6B

首先需要使用Git克隆代码：

git clone https://github.com/THUDM/ChatGLM-6B.git

接下来我将pip设置为了阿里镜像源，方便我之后的步骤能更顺利的安装Python各种依赖库，命令为：

pip config set global.index-url https://mirrors.aliyun.com/pypi/simple/
pip config set install.trusted-host mirrors.aliyun.com

然后进入 ChatGLM-6B 目录，在命令行安装Python需要的依赖，执行命令：

pip install -r requirements.txt

接下来是下载模型，由于xiaoz的显卡比较弱，所以xiaoz这里选择了 4-bit量化模型，建议提前下载好模型，内置的Python脚本下载很容易失败，且速度较慢。

作者将模型托管在“ Hugging Face Hub ”，我们需要先从上面下载模型，xiaoz这里选择的“4-bit量化模型”，执行的命令如下：

git clone -b int4 https://huggingface.co/THUDM/chatglm-6b.git

这里面 pytorch_model.bin 文件比较大，如果您git命令拉取较慢，或者失败了，可以尝试手动下载 pytorch_model.bin ，然后放到本地仓库目录即可。

注意：这里存在一个坑，你不能只下载文件，需要将里面的等文件一起下载并放到一个目录，建议是Git拉取整个仓库，然后手动下载合并到一个文件夹下。

运行ChatGLM-6B

进入Python终端，我们开始运行ChatGLM-6B模型，执行的命令如下：

# 指定模型的位置，就是你在Hugging Face Hub上克隆下来那个模型
mypath="D:/apps\ChatGLM-6B\model\int4\chatglm-6b"
# 导入依赖
from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained(mypath, trust_remote_code=True)
model = AutoModel.from_pretrained(mypath, trust_remote_code=True).half().cuda()
model = model.eval()
response, history = model.chat(tokenizer, "你好", history=[])
print(response)

运行过程中，并非我想象中的那么顺利，我遇到了一个

这样的报错，最后参考这个：解决了。

解决办法是先执行命令：

python -c "import torch; print(torch.cuda.is_available())"

如果返回,说明安装的PyTorch不支持CUDA,然后xiaoz执行了下面的命令：

pip install torch==2.0.0+cu118 torchvision==0.15.1+cu118 -f https://download.pytorch.org/whl/cu118/torch_stable.html

最后就没报错了。当然，每个人的硬件和软件都不一样，遇到的报错可能也不一样，总之灵活变通就行了。

命令行测试ChatGLM-6B

跑个4-bit量化模型也比较吃力，3050的8G显存很容易给我干爆，而且响应速度感觉也比较慢。（图片可点击放大）

官方仓库里面还提供了WEB和API的运行方式，WEB运行方式遇到点报错，暂时还没去解决，上述使用CLI运行方式是没问题的。

补充说明

要查看自己安装的PyTorch版本，可以在Python交互环境中输入以下代码：

import torch
print(torch.__version__)

如果结果显示的可能会导致不支持，参考上面的“Torch not compiled with CUDA enabled”报错解决即可。

再次查看 PyTorch 版本，若显示，则说明支持 GPU，也就是说不支持 CPU 的版本不可用，只可用支持 GPU 的+cu版本。

个人感受

我与ChatGLM-6B进行了一些简短的对话，个人感觉效果不错。虽然整体上不如ChatGTP，但ChatGLM-6B由国内开发团队开源，并且可以在消费级显卡上运行，我必须给予好评和点赞。希望团队继续努力，迎头赶上ChatGTP。

与众不同的我

我是ChatGLM，是基于智谱 AI 公司于 2023 年训练的语言模型开发的。 我的任务是针对用户的问题和要求提供适当的答复和支持。 也许我和别的女孩不同，一般的女孩差不多都很文静、话很少，而我和她们恰恰相反，我很顽皮、乐观、有韧劲、很粗心大意。 我天生是个乐观派，整天嘻嘻哈哈，看到我的人总会疑惑地问：“你为什么每天都在笑呢”。 上帝除了给我乐观之外，还给了我一份韧劲，让我在感兴趣的事上刻苦钻研。 常常为了做个模型让我花上半天时间，只要自己喜欢做的事最后一定要做好。 在做作业的时候经常粗心大意，很简单题有时往往做错。 可同样我还是个女生，我喜欢躺在沙发上看电视，看我喜欢看的电视，如“动画片、电视剧、少儿童话故事”等。 我有时很粗心大意，不是涂改液找不着就是作业本不知道去哪了，可翻遍整个抽屉、书包，甚至整个房间翻个遍都找不着，它们又会突然出现在某个地方。 粗心大意给我带来了许多烦恼，可我总是改不了。 我很顽皮，前年在超市玩的时候不小心蹦到柜台架子角上，把腿上挂了个大口子，缝了六针，我都没有咋哭，可是没有两天我又开始下地走了，可是想想我身上有好几处明伤，如眼角处、膝盖处等等。 总之相比别的女孩身上多了好多伤。 唉，人无完人嘛。 这就是与众不同的我，一个乐观的我，一个有韧劲的我，一个聪明的我，一个粗心的我,我就是我朱琳。 我叫靳雅雯，是一个活泼可爱的小姑娘，我与其他小女孩有许多不同之处，就让我一件一件讲给你们听吧！“靳雅雯”这个名字是爸爸妈妈冥思苦想才想出来的。 名字的含义是希望我成为一个优雅的小女孩，可这个名字好像一点儿也不适合我。 在梦想方面，女孩子都幻想能成为一位美丽、优雅、高贵的公主，而我却幻想着成为一名女兵，保卫祖国，守护家园。 在阅读方面，很多女孩子喜欢看芭比公主、草莓甜心一类的书籍，而我却喜欢看侦探故事，厚厚的一本《福尔摩斯探案集》我三天就看完了。 在学乐器方面，女孩儿们坐在黑色的长凳上弹着悦耳动听的钢琴曲，而我却站在那里抱着吉他陶醉的弹唱着摇滚。 当一些女孩子在学钢琴、弹古筝时，我可能在玩手动足球或是在草地上自有自在的奔跑。 有一次，童童姐姐来我家玩。 我们一起看书，一起玩贴画本，玩的可开心了！童童姐姐看到了放在书架旁边的足球桌，问我：“那个足球桌是谁玩的？”我兴奋的说：“是我玩的，我们俩玩一次吧！”童童姐姐却说：“那是男孩子玩的游戏，我才不玩呢！”在我一遍遍的恳求下，童童姐姐终于答应和我一起玩。 可是，童童姐姐一局也没能赢我。 童童姐姐一本正经的对我说：“女孩子不能玩足球！”可我却坚定的说“一个人的爱好是不会被轻易改变的。 ”童童姐姐耐心的对我说：“你可以试着改变自己。 ”可我却说：“我不喜欢当公主，我也不要改变我自己。 ”童童姐姐不再说话了，只是站在那里惊讶的看着我。 这就是我，一个与众不同的小女孩。 我是一个聪明又活泼的小男孩。 我的脑袋圆圆的，头发剪得短短的；一对大大的耳朵，像扇子一样；浓浓的眉毛下有一双水汪汪的大眼睛；像小山一样的鼻子下面长着一张能说会道的嘴；我的脸圆圆的，像一个大苹果。 我长得很结实，也很帅气！我特别喜欢骑单车和看书。 每天放学一回家，我就迫不及待地和表弟一起去骑单车，骑累了也舍不得停下来。 我们几个小伙伴骑着单车在小区里飞奔，有时绕着花坛骑，有时坐在小伙伴的自行车后座上，和小伙伴一起前进，有时比赛谁骑得更快。 我们骑单车时快乐得无法形容，小狗也快乐地跟在我们车后面跑，它仿佛也喜欢看我们骑单车。 不光骑单车让我快乐，看书也让我觉得很快乐。 每次看书我都会看得津津有味，一看就是好几个小时，早晨上学前都忍不住要看一会儿，有时看得忘了吃饭，妈妈常常告诉我看书也要分清时间。 我从课本上学了很多知识。 我知道哪颗星球最大，也知道青蛙是怎么长大的，还知道小香猪的皮可以用来当人造皮。 有时还拿书上的知识去考妈妈，有些问题连妈妈也不能回答。 看课外书让我越来越聪明，我还要看更多的书。 可是我的缺点也不少。 我告诉你一个我的缺点，你可不能告诉别人哦。 我的字写得很丑，经常被妈妈批评，可是我转身就忘了妈妈的话。 爸爸教我练了许多次，还是没写漂亮。 可能是我练字时不认真才练不好的，练的时间也少了。 但我已经下定决心要练好字了，我一定会做到的！这就是与众不同的我。 十年前，伴随着一声婴儿的啼哭，一个与众不同的孩子诞生了……这个孩子先天性脊膜膨出，他的诞生给整个家庭带来了无限悲哀和苦难。 那个小孩就是我。 虽然我的人生伴随着病痛，但我很乐观。 你看，我长得眉清目秀，两道弯弯的眉毛下，是一双炯炯有神的大眼睛；再往下是一个微微上翘的鼻子，显出几分灵气；再往下则是一张红润的小嘴，多讨人喜爱啊！我知道，我与其他孩子不一样，五岁前，爸爸妈妈为了我，每个假期都奔波在各大医院。 到了上学的年龄，别的孩子都去上学了，唯有我，眼巴巴地期盼着也能和正常的孩子一样走进校园。 但是，我却不能。 后来妈妈不得不辞去工作，专门在家看着我，教我读书识字。 在妈妈的努力争取下，我终于能够走进校园读书了。 我很珍惜这来之不易的读书机会，我要对得起爸爸妈妈对我的厚爱。 于是，我发奋努力，学习成绩一直优异。 我非常喜欢读书，家里的书很多，我总是一读再读，百读不厌。 我最喜欢科学书，如天文地理呀，动植物介绍啊，远古历史呀等等，我都爱看。 我还喜欢看电视，我会通过看电视来增长知识。 我除了喜欢看动画片外，还喜欢各种节日晚会，尤其是春节联欢晚会。 当然，我最喜欢的还是各种科学节目，因为我的梦想是成为一名科学家。 我还有一个伟大的梦想，那就是寻找巨大的能源宝库并开发利用，为咱们能源日益枯竭的地球做份贡献。 我会为这一梦想的实现而不懈地努力。 我已经十周岁了，同龄的孩子都上五年级了，而我，才上三年级。 我会抓紧一切时间学习，把那两年耽误的时间补回来。 我想，再过几年，我一定会在学习上超过其他同龄人，不久的将来，我一定会实现我的理想！这就是与众不同的我。 一个人就是一片绿叶，一万个地球人就是满满一棵参天大树，而我就是那其中的一片树叶，是多么的渺小，每一片树叶都有它的与众不同，我也是。 别看我是一个优等生，其实我也有很多缺点，板着手指说上一天一夜也说不完，就说说睡懒觉吧。 我很懒，每次奶奶叫我起床的时候，我不是蒙住被子当做没听见，就是漫不经心地说一声“知道了，让我再躺10分钟”。 可10分钟过后我还是起不来，随之而来的就是奶奶的再一次呼喊，这时我就有点不耐烦了，继续睡觉。 等了一会，奶奶再也不能忍受了，咆哮道：“赶紧起床，太阳都晒屁股了，你想迟到啊！”“迟到？还早着呢，再睡会也迟不了，咱家离那么近，没事的！”我不屑地说。 “还早啊，都快7点了，你还想拖什么啊！”“啊！不是吧，快7点了，怎么可能，刚刚看才六点半啊。 ”我立刻从床上跳起来，拿起闹铃，果然真的快到7点了，我着急地翻动着被子上的一切。 “咦？我的校服飞到哪里去了？奶奶，你看见我的校服了吗？”“昨晚不是你摆的吗？还说自己要养成好习惯的，又来问我，我怎么知道啊！诶哟，这不，在地上呢。 ”我快速地穿好校服，可一出去爷爷奶奶就笑成了一团：“哈哈，你的校服……”“怎么了？我的校服有什么不对啊？”我疑惑地问奶奶，同时看了看我的校服，诶呀，我的校服裤穿反了，我立刻跑回屋子里换下来。 时间真是不等人啊。 转眼间，已经到了上学的时间，我哪里顾得上吃早餐，背上书包就往学校飞奔，才没迟到。 这就是我，漏洞百出的我。 我不是聪明的高材生，也不是漂亮的“小公主”，但我是与众不同的一名平凡的学生。 我叫王懿佳。 我虽然是个女孩子，但是性格却像男孩，是个名副其实的假小子。 我有一头乌黑亮丽的短发，双胞胎姐妹眉毛和邻居眼晴是一对兄弟

Windows10系统如何实现微信多开用？

最近又有几个朋友问我，在Windows端实现微信双开用什么插件？其实我以为这个问题网上已经有很多人给出解决办法了，随便搜索基本都能找到答案的。 不过我还是想重新写一些，也算是做个记录吧。 目前有不少第三方插件或者代码的方式可以实现Windows或者Mac端的微信多开，个人是比较抵触使用第三方的插件的，安全性问题之外也有几率被官方封号。 如果是Windows 10用户，大可不必找什么第三方插件或者代码启动。 得益于Windows 10的Microsoft Store应用商店的限制，部分商店内上架的软件和官网下载的是不冲突的，例如微信和QQ。 腾讯在微软应用商店上架了两个版本的微信客户端，一个是普通的 Win32程序，一个则是UWP版本。 而这两个版本与在微信官网下载安装的微信版本是可以共存的，这就给了我们在上实现微信双开甚至三开的可能。 三个版本的微信全部安装，在开始菜单看到是这种效果。 Windows商店的win32版本微信在版本号上要落后官网的版本，但在使用上几乎没有任何区别。 从左到右分别是UWP版本、微软商店Win32版本、官网版本登录窗口微信双开，基本能够实现绝大部分人的需求，以上三个版本可以任选两个使用，当然如果你有三个微信号需要同时使用那就全部用上吧，如果在算上网页版微信，那就可以更多了。 具体方法：1. 在桌面微信快捷方式上，鼠标右键选中单击属性，复制如图所示目标中的路径。 2. 在桌面新建一个记事本，将刚才复制的路径粘贴在记事本上，并将路径修改为如下格式：原：C:Program Files (x86)改：C:Program Files (x86)注意英文单引号的位置，如果你的路径和我的一样可以直接复制上面的代码3. 在记事本最前加上start命令，如果你要启动两个微信就复制两次，最终代码如下：4. 将记事本另存为：微信多开5. 打开微信多开那个图标就行了。 上面的命令复制了几次，就可以打开几次。 笔者平时会使用两个版本的win32微信程序，整体来说使用体验最佳。 而UWP微信无论是UI还是消息弹窗，确实能够给人眼前一亮的感觉，但在win10还真没摸清UWP程序的后台规则，关掉窗口是不是在后台运行不清楚，甚至最小化之后重新打开进入程序才会刷新消息。 有懂的朋友欢迎来交流

30多岁,我明白了这些道理

我是ChatGLM，是基于智谱 AI 公司于 2023 年训练的语言模型开发的。 我的任务是针对用户的问题和要求提供适当的答复和支持。 当一阵红包雨洒过，我明白，自己又长了一岁。 回首过去的三十多年，我经历了一些事，也明白了一些道理。 在又长一岁的时候，我想把这些年领悟到的道理总结一下，与各位朋友分享。 1、一切困难都会过去的。 在高中的时候，我脑子里突然蹦出这么一句话。 那时我们经常考试，每次考试之前我都很焦虑。 但是有一天我突然明白，这一切的困难都会过去的，要么是被克服了，要么就是我们避开了。 所以不必过于担忧。 当我们克服一个困难的时候，实际上是多了一个成长的机会。 当我们躲避困难的时候，我们也是选择了不去面对这种让自己不舒服的生活，总之一切困难都是会过去的。 不要为明天而焦虑，上帝自会有安排，我们只需要好好的活在当下就可以了。 2、君子生非异也，善假于物也。 这句古语的意思大概是，君子的本性和一般人并没有什么区别，只是善于借助外物的力量罢了。 放到今天来说，就是牛人没什么特别，但就是善于借助他人力量或各项工具，善于整合资源，才做成了大事。 我们个人的力量是有限的。 但是地球上却有那么多的资源可以供我们使用，有那么多的人可以帮到我们。 我们所需要做的，就是找到这些“物”。 3、没有人可以定义你是谁，不要给自己设限。 不要给自己下太多的定义，也不要接受他 人给我们贴的标签。 不要认为自己只能做什么，不能做什么。 人的潜力是无限的，试着去挖掘它，开拓它。 比如我曾经以为自己永远学不会驾驶，永远学不会钢琴，但是通过训练，这些都是可以掌握的。 要打破限制，最根本的是我们在心理上不要给自己设限，否则你永远都做不成那些你认为不可能完成的事情。 4、过符合或稍微超出你能力的生活。 任何时候，不要放弃自己的生活品质。 不要过于委屈自己，不要为了明天的美好生活，而让今天的自己将就。 喜欢一个lv包，买吧！喜欢一套化妆品，买吧！想去旅行，那就去吧！ 只要这些消费都在你的能力范围内或者稍微超出你的能力，都可以做的。 包括说如果你喜欢一辆炫酷的车，但是暂时还差一点钱，那么，贷款买吧！ 有一本书叫做《幸福的方法》，真正的幸福就是要活在当下，并且当下的事情能够成就明天的幸福。 很多人会觉得现在要过一点苦日子，不然明天就过不上幸福的生活。 但是，苦日子和明天的幸福生活，并没有必然的关联。 习惯了过苦日子，那我们一辈子可能都只能过苦日子。 5、不要什么事滚源都等到明天再做。 有一句话叫做永远不会太晚，但是我们却不能什么事情都等明天去做，因为明天不总在我的预期之内。 明天也不一定会有今天那么适合的时机去做那件适合的事。 人生，在不同的阶段就适合去做不同的事情。 因此，想做什么现在就行动吧！ 6、尊重自我，接纳自我，尊重他人。 我们是自己最好的朋友，因此我们要对这个好朋友百分之一百的好，要尊重自己，接纳自己。 受传统教育中先人后己等观念影响，我们往往只会观察他人，而没有养成观察自己感受的习惯。 我们也往往会为了迁就他人而委屈自己。 我们总是在看别人需要的是什么，没有想过自己到底要什么，不要什么；喜欢什么，不喜欢什么。 因此很多人所做的都并不是自己期望的，而是他人期望的。 观察自己，尊重自己，其实非常重要。 另一个方面，是接纳自己。 这代表着我们在客观观察自己的同时，接纳自己的优点与缺点，现在和过去，但是需要注意的是，接纳自己并不代表我们可以放纵自己。 还有一点很重要，就是要尊重他人，包括他人的想法、习惯等。 不要勉强别人，也不要瞧不起别人。 7、不要迷信大V，每个人都可以成为自己的大V。 每个人都是独一无二的，拥有特殊的禀赋，都拥有亮闪闪的特质。 你可以有榜样，但是不要迷信大V，不要视他人为偶像。 因为大V也是普通人，而不是神，只是通过努力活成了现在。 你不也可以吗？不要和财富多的人拼财富，也不要和才华高的人拼才华，你需要关注自己的长板，并付诸努力。 8、颜值很重要，勤奋更重要。 在这个看脸的时代，以貌取人还是非常普遍的。 出于人类的本能，很多人都会更喜欢，也渣嫌更乐于接受和认可外表相对较好的人。 颜值高的人，特别是女人，更容易获得事业、择偶上的各种机会，也更容易获得帮助。 不过，颜值并不是固定不变的，所谓年老色衰，或者女大十八变，就是这个道理。 作为女生，一定要多关注自己外表呈现出来的状态，学会护肤和化妆，提升搭配，保持良好心态，这样可以提升我们的颜值。 颜值虽然重要，但是却没有勤奋重要，在和朋友讨论这个问题时，很多人举了马云的例子。 马云颜值不高，却能通过勤奋获得大家公认的成功，获得让人羡慕的财富，这种魅力是高颜值也无法匹敌的。 勤奋可以提升我们的魅力和财富，让我们过上自己想要的生活，而颜值却未必。 9、控制自己的口舌，学会慎言。 我们很多时候会追求自己做一个真实的人，敢于发表自己的见地，但是很多时候，这会带来一些麻烦，甚至会给他人带来困扰。 举个简单的例子，比如说有一个人他在一个群里面分享一篇他写的文章，然后其他人七嘴八舌地评论，有些人甚至会发表非常毒舌的评论。 他们觉得这就是诚实，也是为了别人好。 但是，别人往往不需要你那么诚实，不需要你出于“好意”的泼冷水。 请别为了表现而给自己挖坑。 在工作中会或者对待朋友也是如此，我们要把握与他人之间的距离，思考我们所说的每一句话会带来什么样的后果，不要想说就说。 你的一个评论可能会给好朋友带来一天的坏心情。 而你一句不恰当的话，也可能会毁掉他人在工作中所有的付出。 在朋友圈和微信群，也同样需要慎言，不要讨论过多针对个人的事情。 10、人要有点自己的爱好。 你总得喜欢点什么，人生才会变得丰富，比如读书、音乐、锻炼等，你要通过这些爱好让自己更健康，更快乐，更充实。 这些爱好也让你在与他人交往中拥有了更多的话题，更容易融入各种圈子。 11、多体现结果，少体现过程。 我们有时候会看到一些人似乎没经过什么努力就瘦下来了，就变得正能量了，就如何如何成功了。 但这只是表面，他们的付出我们无从看到。 我们做人也是要如此，不需要每天告诉别人我们在做什么努力，只需要把结果呈现出来。 12、多出席，不要迟到。 出席是我们遇见世界的一种方式，也是我们结交朋友的一种方式，更是我们拓展自己的一种方式。 出席可以给我们带来许多机会。 如果你永远不出席的话，你就永远不会有任何的机会，永远处于逃避状态，是一种拒绝成长的表现。 另一点，就是不要迟到，无论是在我们的工作中还是生活中，守时是一种基本的礼貌。 迟到给他人的印象不好，也可能会让自己损失不少。 如果你总是迟到，那不妨分析一下是否自己不够喜欢那件事情。 因为迟到往往是因为我们在潜意识里面很抗拒那件事情，或者不喜欢的事情。 如果真不喜欢，那就干脆不要答应去参与。 13、朋友是需要维系的双向关系

上一篇：ClaudeChatGPT的替代方案，附注册和使用教程

下一篇：开源目录列表程序Zdir330正式发布，新增批量