【ChatGML3】最强的离线开源版ChatGPT,一键部署,解压即用

  Рет қаралды 1,407

技术爬爬虾  TechShrimp

技术爬爬虾 TechShrimp

8 ай бұрын

本期视频所涉及的程序:
CUDA下载安装 :developer.nvidia.com/cuda-dow...
ChatGLM3 一键部署包:
pan.baidu.com/s/1SAOUxt08zWK8...
提取码:1234
ChatGML3 Github主页 : github.com/THUDM/ChatGLM3
不用联网,不用付费,家用显卡可部署,全代码开源的大语言模型, ChatGLM3就在本周发布了。
本期视频提供ChatGLM3全网最简单的一键部署包,解压后即可一键运行,无需联网,无需配置。6GB以上显存的显卡即可流畅使用,还可以不受任何约束的随意微调定制,再也不受openai这类GPT厂家限制了。
我们的主角ChatGLM3是由清华大学智谱AI在本周刚刚发布最新最强的开源大语言模型,短短几天已经霸榜github,获得了4K的star。官方在8个中英文典型数据集上进行了性能测试。所有指标对比二代模型已经有了大幅提升,已经超越市面上所有百亿参数以下的大模型。在轻量级的大语言模型中可谓遥遥领先。
部署之前 我先介绍一下电脑环境,也就是必须有一个6GB以上显存的NVidia显卡。虽然此模型可以使用CPU运行,但是效果非常不好,运行速度很慢。
首先第一步 我们打开NVidia GEFORCE EXPERIENCE控制面板,更新驱动程序
第二步进入nvdia官网下载cuda developer.nvidia.com/cuda-dow...
选择电脑的操作系统,下载对应的安装包并且安装即可。
第三步就是下载爬爬虾提供的一件部署包,部署包已经放在网盘中,需要地址的话可以三连加关注私信我。
下载好以后就获得这么一个压缩包,然后解压缩以后获得这么一个目录结构的文件。
其实目录结构也很简单,就是把智谱AI的两个开源项目下载后放到一起了,一个是model也就是模型文件
第二个ChatGLM3是模型的驱动程序。

Пікірлер: 4
@jinmailang7621
@jinmailang7621 3 ай бұрын
虽然看到6G显存望而却步了,但必须为你的分享点赞,因为我是你的忠实粉
@zhishidatanxian
@zhishidatanxian 5 ай бұрын
如何调用API~进行对话呢
@leepaul9795
@leepaul9795 5 ай бұрын
这个比chatgpt是不是差很多
@sammyyu5421
@sammyyu5421 6 ай бұрын
你好 可以给我一键部署包地址吗?
아이스크림으로 체감되는 요즘 물가
00:16
진영민yeongmin
Рет қаралды 55 МЛН
I Can't Believe We Did This...
00:38
Stokes Twins
Рет қаралды 103 МЛН
路飞被小孩吓到了#海贼王#路飞
00:41
路飞与唐舞桐
Рет қаралды 69 МЛН
How I'd Learn AI (If I Had to Start Over)
15:04
Thu Vu data analytics
Рет қаралды 741 М.
本地跑大模型,需要什么配置
5:21
huangyihe
Рет қаралды 11 М.
低配电脑变身低功耗,功能全的Linux服务器
12:21
技术爬爬虾 TechShrimp
Рет қаралды 28 М.
All You Need To Know About Running LLMs Locally
10:30
bycloud
Рет қаралды 125 М.
아이스크림으로 체감되는 요즘 물가
00:16
진영민yeongmin
Рет қаралды 55 МЛН