【ChatGLM3】最强的离线开源版ChatGPT,一键部署,解压即用

本期视频所涉及的程序:
CUDA下载安装 :https://developer.nvidia.com/cuda-downloads

ChatGLM3 一键部署包:
https://pan.baidu.com/s/1SAOUxt08zWK80Wnrrev87g
提取码:1234

ChatGLM3 Github主页 : https://github.com/THUDM/ChatGLM3

不用联网,不用付费,家用显卡可部署,全代码开源的大语言模型, ChatGLM3就在本周发布了。
本期视频提供ChatGLM3全网最简单的一键部署包,解压后即可一键运行,无需联网,无需配置。6GB以上显存的显卡即可流畅使用,还可以不受任何约束的随意微调定制,再也不受openai这类GPT厂家限制了。
我们的主角ChatGLM3是由清华大学智谱AI在本周刚刚发布最新最强的开源大语言模型,短短几天已经霸榜github,获得了4K的star。官方在8个中英文典型数据集上进行了性能测试。所有指标对比二代模型已经有了大幅提升,已经超越市面上所有百亿参数以下的大模型。在轻量级的大语言模型中可谓遥遥领先。

部署之前 我先介绍一下电脑环境,也就是必须有一个6GB以上显存的NVidia显卡。虽然此模型可以使用CPU运行,但是效果非常不好,运行速度很慢。
首先第一步 我们打开NVidia GEFORCE EXPERIENCE控制面板,更新驱动程序
第二步进入nvdia官网下载cuda https://developer.nvidia.com/cuda-downloads
选择电脑的操作系统,下载对应的安装包并且安装即可。
第三步就是下载爬爬虾提供的一件部署包,部署包已经放在网盘中,需要地址的话可以三连加关注私信我。
下载好以后就获得这么一个压缩包,然后解压缩以后获得这么一个目录结构的文件。
其实目录结构也很简单,就是把智谱AI的两个开源项目下载后放到一起了,一个是model也就是模型文件
第二个ChatGLM3是模型的驱动程序。

微海报