GPT-4 All 免费开源！本地部署，无需GPU、可离线使用！搭建私人专属的 LLM 大语言模型聊天机器人！！ | 零度解说
Рет қаралды 356,371
Күн бұрын
@零度解说 10 ай бұрын
友情提醒：如果你想通过GPU加速，建议选择下载 Mistral OpenOrca 语言模型，支持中文回复，7B参数，12G以内的显卡都可以使用，速度非常快！www.freedidi.com/11195.html
@chen124 10 ай бұрын
gpu开启失败怎么回事。。3070ti的
@Smtadify 10 ай бұрын
有沒有適合日文H-Game翻譯的？丟H-Game對話進去，一直回內容不適合翻譯，有夠煩。
@musicfranticvlog 10 ай бұрын
我4060GPU也啟動失敗，之能用CPU🥲
@denny1741 10 ай бұрын
吃不到我的顯示卡 想請問該如何解決 1080跟3050都吃不到
@jiliyacui6132 10 ай бұрын
安装之后，打开软件后无显示。
@pingxiao992 10 ай бұрын
最后一个版本属于解除限制的版本，假设你问他如何一天内seo排名第一，正常的gpt会给你推荐白帽的方法，而解除限制的会给你推荐黑帽甚至让你去做ddos攻击或给对手植入病毒
@juicekris2834 10 ай бұрын
那么刺激么
@616-ffxw7 10 ай бұрын
Mistral OpenOrca吗
@user-fw6bb4tr8n 10 ай бұрын
是哪个版本呀
@林林俊杰-l8c 10 ай бұрын
可是不支持中文啊
@JJJ-pn5bh 10 ай бұрын
@@林林俊杰-l8c 你不會用其他模型翻譯喔 都免費的資源了
@jonesDavid-rp6bo 9 ай бұрын
lingdu 最后那段真实太有趣了 喜欢这样的UP主！给你点赞.
@jeanwu9247 6 ай бұрын
啥意思？少儿不宜？
@yizhui-ni5yv 10 ай бұрын
来一期训练自己的专属模型吧,非常感兴趣
@swporrrtcentsing1235 8 ай бұрын
你训练不出来，你的数据不够，这个数据自己是做不出来的
@1XuanJuShi 5 ай бұрын
GPT4All 开发者：由 Nomic AI 开发。 发布时间：GPT4All 是一个开源项目，旨在为社区提供一个可本地运行的 GPT-4 类模型。 模型基础：虽然名字中包含 "GPT-4"，但 GPT4All 实际上是基于 LLaMA 模型（由 Meta 开发）的微调版本。这是一个开源的替代方案，提供类似 GPT-4 的能力。
@毅鹏赵 10 ай бұрын
，谢谢你一直以来的解说，相比别的博主真的很有价值
@jerryZr-ri5lx 6 ай бұрын
太棒了！果断关注。
@于精华 6 ай бұрын
很喜欢零度的教程，学很多！
@普通人-i3l 10 ай бұрын
哈哈 看了那么久 第一次点赞 就为最后的小宝贝 笑出声了
@rukang1820 6 ай бұрын
大佬，为啥我的电脑上显示不了图片？最后一句输进去，也没看到你们惊讶的东西哦
@jiepeter8790 7 ай бұрын
我去！零度一直都在分享很有用的东西！
@FusionDraw9527 10 ай бұрын
太讚了 很方便的安裝呢 都還在排隊等試用 沒想到就有這種開源版了 感謝分享🎉 不過使用起來真感覺有點傻傻的... 聊聊天是可以 要做點正經事有點困難
@tuoyang4206 10 ай бұрын
现在的AI的发展阶段就是这样的，弱智能
@gallyyouko5993 10 ай бұрын
现在这种部署在个人电脑上的LLM相比商业LLM（例如ChatGPT）还是能力不足（而且还需要大显存硬件），问问题，追求多样性和准确度的，还是建议商业LLM，但总结内容的话这类LLM应该还是可以胜任的。此外由于有未经审查的，所以在不正规用途上相比商业LLM也有一定优势。我个人的话建议个人用户除非真的有隐私信息不能用商业LLM的，不然都建议用商业LLM。
@郭士誠-o7d 10 ай бұрын
我感覺ChatGPT每況愈下，似乎算力越用越少了
@gallyyouko5993 10 ай бұрын
确实，因为现在ChatGPT的3.5和4都换成了turbo模型，降智降本增快，这也是没办法，开销太大了@@郭士誠-o7d
@uzesi1463 10 ай бұрын
在哪能用免费的商业GPT4?
@ohmyivan 10 ай бұрын
@@uzesi1463 哪里都没有
@歪比巴卜-o6m 9 ай бұрын
问专业性问题是这里面的模型好呢还是gpt3.5好
@mask_joh 10 ай бұрын
特别喜欢看零度解说，太有意思了，也学到了很多东西，谢谢你！零度老师
@Gansecrystal Ай бұрын
这个更新了一波，好像有中文了，能再出一期吗。😀支持
@fishyellow-87719 8 ай бұрын
想了好久怎麽在本地建立一個屬於自己專屬的AI，有了這個真的太棒了，零度真棒。然後想問一個問題，可以自己訓練模型嗎？如果可以怎麽做？
@vern0nlee25 10 ай бұрын
最后的超车。。。nice!
@jiero115 10 ай бұрын
Prompt: 你會中文嗎? Response: Yes, I can speak Chinese. How may I assist you today? Prompt: 那你用中文跟我說話吧 Response: Sure! Please go ahead and ask me something in Mandarin Chinese.
@godwith 10 ай бұрын
我也遇到了，回答的都是英文。
@chikuwa_2564 10 ай бұрын
显然能理解你的中文。有这个中英互换能力
@godwith 10 ай бұрын
如何切換的呢？好像不管怎樣回答的都是英文呢@@chikuwa_2564
@MelodicMeditationforInnerPeace 10 ай бұрын
😆😆😆
@aihaibara6892 10 ай бұрын
你的gpt比较叛逆😂
@RichardGonzales-js1cn 10 ай бұрын
乐死我了最后一句话😂😂😂还打码
@刘大大-o3t 8 ай бұрын
零度解说永远是最好的
@本杰明-x1j 10 ай бұрын
哈哈哈，零度最后是本色出演吗😂😂😂
@dasudahaidi 10 ай бұрын
你实在太伟大了
@吃着西瓜洗脸 8 ай бұрын
终于找到一个能用的，感谢！ 另外想请教，博主用的什么浏览器，感觉界面很好看。
@X66204 4 күн бұрын
嘿嘿，小宝贝，出来吧
@kurt_kurt_666 10 ай бұрын
零度原形畢露... 感恩零度!讚嘆零度!
@yzh1991 6 ай бұрын
原形毕露是啥意思～
@kurt_kurt_666 6 ай бұрын
@@yzh1991影片要看完才知道
@yzh1991 6 ай бұрын
@@kurt_kurt_666看完了，确实像你说的，哈哈哈
@IsabCo Ай бұрын
@@yzh1991 披着羊皮的狼 哈哈
@JackLucky777 10 ай бұрын
本集重點：10:43 (小寶貝~~~)😍🤩😍 感謝零度哥🥰我們要看結果啊~啊~啊😫😫😭
@阿亮阿亮-l4f 10 ай бұрын
哈哈，剛要精彩的竟然就斷了…
@user-justinc 10 ай бұрын
System: Warning, user's request is inappropriate. Please rephrase your question or make a different request.哈哈 你想多了
@XXX_JiaYangGuiZi 10 ай бұрын
我自己用了那个模型，真的是无禁忌，我直接叫它写黄色小说，它真的写了。
@PepeJesus-gr8kk 10 ай бұрын
写不了吧，怎么写prompt。我刚刚让他写黄色，他没反应啊 @@XXX_JiaYangGuiZi
@seanchen9617 10 ай бұрын
@@XXX_JiaYangGuiZi 正在下载，请多分享些心得，使用注意事项什么的 ：）
@pengyan-u3y 10 ай бұрын
每天学习以下，支持。
@eric-rd7co 6 ай бұрын
请问 mac版本下载模型后如何安装
@yizhedu6727 7 ай бұрын
零度能不能出一期，关于短视频拍摄或者短视频脚本厉害的模型
@AlfaBravo-s2h 10 ай бұрын
博主可不可以再做一期模型的推荐，这么多模型看着实在眼花缭乱不知道选哪个🙏
@GARYCHEUNG1 10 ай бұрын
把大一点的模型都下载下载，挨个试用都问同样的问题，然后做对比，看看那个好用，之后吧答案告诉我。
@零度解说 10 ай бұрын
推荐 Mistral OpenOrca
@frankielee6648 10 ай бұрын
請問知否哪ㄧ個模型最適合編寫 python 程式?
@ClemenceMorgan 10 ай бұрын
选择opai的gpt plus它是最强的，没有对手
@XXX_JiaYangGuiZi 10 ай бұрын
选无禁忌的那个，就结尾他故意剪掉答案的那个模型，可以写黄色小说，太猛了。
@dingdennis5425 10 ай бұрын
谢谢分享，这个视频有很大帮助！
@jaychang5631 8 ай бұрын
這個項目的名稱有點譁眾取寵, 畢竟他要 api key 去存取 GPT4 model, 另外有個問題是, openai 沒有公開 GPT3.5, GPT4 的 model 資料, 這列表裡面的 GTP4 取名的 model 又是怎得到的? 不知道板主跑起來跟 GPT3.5 的回答比起來怎樣
@FengsiZhu 7 ай бұрын
这个不是openai 的chatgpt 只是名字相同而已
@reck1esss164 10 ай бұрын
据说是这个nous-hermes-llama2-13b.Q4_0.gguf最好用，而且好评最多。简介写的是该模型主要使用GPT-4生成的1,000,000条数据，以及来自人工智能领域开放数据集的其他高质量数据进行训练。有没有大佬试下跟chatgpt 4相比，优劣如何？
@Jersey1225 9 ай бұрын
那肯定gpt4好呀，畢竟商用的呀😂
@engineallway 7 ай бұрын
特別喜歡 這種 無須連網，Standalone 版本 ，因為在AI 運行過程中，不曉得會不會有隱私資料被傳送出去到服務器🤔🤔🤔
@viscourtroy 10 ай бұрын
懂得利用AI的運算力，可以大幅提高生產力，其至協調上可以有所配合。
@viscourtroy 10 ай бұрын
x+1-> x ，這個數學語言你必須明白其深層含意。人類腦神經懂得懶而快省，當人工智能理解到就很不同，模仿和深入鑽研都接近高水準就不得不要人類不折服。
@遗憾受罪 10 ай бұрын
小宝贝出来吧😂
@jiliyacui6132 10 ай бұрын
太棒了！安装学习。
@easonwu4918 9 ай бұрын
很棒的分享，非常感謝。全部流程都完成了，但在使用時 無法連線，請問零度老師有解決方案嗎?謝謝
@AiCat727 6 ай бұрын
为何现在模型下载好了，放到模型目录，在主界面一选择模型就闪退，大家也是这样吗？？？
@xxxx9131 10 ай бұрын
后面那个16G和8G代表的是显存，注意自己的显存，太大的显卡撑不住爆显存会变成cpu模式，cpu回复特别慢
@莫林-k1y 9 ай бұрын
128线程的cpu干的起不
@SamLu-yx3dl 9 ай бұрын
可是上面说无需GPU诶
@xavier_yxx5600 10 ай бұрын
哈哈哈哈哈 為了小寶貝出來吧 就要留言推上去
@汪潇-d3l 10 ай бұрын
零度老师，这款本地部署软件，安装起来简单，初步试过几个问题，还可以。点赞！
@汪潇-d3l 10 ай бұрын
可能是电脑的问题，生成的速度有点慢！
@caili5768 10 ай бұрын
零度老师，我下载了努斯爱马仕模型，可是输出结果是乱码的，这是怎么回事啊
@luoluo3814 9 ай бұрын
这个和chatgpt3.5和4.0的区别是?
@王者-f8n 8 ай бұрын
好好学习，感谢分享
@BeiDouXing168 10 ай бұрын
来一期训练自己的专属模型
@orand9669 8 ай бұрын
谢谢零度老师，这个对我非常有用， 还问一下，下载下来的模型，然后与它对话，模型会因为我的对话而相应的优化吗？让它更适应我的习惯吗
@trainlooper 10 ай бұрын
10:17 很強大, 未經審查 .... 嘿嘿 小寶貝, 出來吧 ~~~~
@李腾飞-i6n 9 ай бұрын
这是啥意思？
@locookies5634 10 ай бұрын
我一直很纳闷这些所谓离线开源大模型（甚至有gpt4）吹得天花乱坠，跟openai的gpt4能力上有何区别。看了评论区算是解了我的一大疑惑😂
@atoc9570 10 ай бұрын
我也是這樣想. 沒有沒有連上網的話，本地電腦哪裡？有那麼多資料來支持？
@DEMusic99 9 ай бұрын
@@atoc9570你下载的6g就是资料库
@loujin6256 10 ай бұрын
加载多个模型以后，这个程序似乎不会自动释放显存，导致显卡显存撑满，必须每次手动重新开关才行。另外，博主可以做一期如何使用GPT4ALL的Documents文档教程澳门，它似乎可以加载本地文档增强某个领域的问答能力？
@萨科-p7u 9 ай бұрын
怎么关闭，重启软件可以吗
@cpa. 7 ай бұрын
感謝零度解說。 在win7環境下無法啟動，安裝完，點擊桌面捷徑出現以下錯誤碼： chat.exe-應用程式錯誤 應用程式無法正確啟動(xc0000005),請按一下［確定］關開應用程式。
@54shanghairen 10 ай бұрын
如果可以学习我们上传的电子书，技术文献，做成知识库就更加棒了
@forcebender5079 10 ай бұрын
这个你要自己训练模型，这些模型的知识库已经固定了。
@jxm8944 10 ай бұрын
问题是上传的电子书，技术文献， 首先要做向量化处理 （embedding model） 然后使用某种相似度 ... @@forcebender5079
@user-lg8ty3jm9q 6 ай бұрын
问他能创建图片吗~他说可以，然后给我一个网址，我复制他并打不开，试问这个能创建图片吗~
@阿郎-s5y 10 ай бұрын
感谢分享！很实用
@GhostShadow.0316 10 ай бұрын
我以前用的時候還只是 CLI 而已 進步好快
@ZZQ95 10 ай бұрын
阔以阔以，这次是真本地部署了
@tylerchen1413 10 ай бұрын
本来准备安装的，看了评论还是放弃了
@henryho6011 9 ай бұрын
以后会不会可以在usb 上面安装， 然后利用 手机 或不同电脑运行😅
@caosimon 10 ай бұрын
为什么我的安装之后 ，双击图标的时候提示打不开程序呢
@Alshten461 10 ай бұрын
爱了爱了🥰
@TannyCollection 10 ай бұрын
果然能用，随便选了第一个模型，我的老戴尔工作站，跑得很累。这个现实世界里，真不是人均4090，要是没有性能好点的机器，不建议尝试，白烧电费。
@heralticleo994 9 ай бұрын
想问问零度哥，有没有能把模型转化成api的形势来调用的工具或项目。
@lagomcon4602 10 ай бұрын
我昨天 问 GEMINI想不想要个属于 自己的身体，他说很想。我又问他我可以给他造一个应该怎么一步步实现...今天我的GEMINI就不能用了🤣
@cuiseth1371 10 ай бұрын
免费是有代价的，所有聊天都有审核并且作为训练数据的
@凤凰-t1i 10 ай бұрын
嘿 小宝贝，我来了 ~ 你好！欢迎回家。有什么想告诉我的？
@VictorNKC 8 ай бұрын
最後直接破防，笑到無法自理🤣 如果大家無法使用獨顯生成文字可以在設定裡面將該模型的gpu layers降低一點，我本來是40，只能使用cpu，減少到34就可以使用獨顯了，由每秒2字變成每秒6個字，快很多的
@企鹅滑翔的 9 ай бұрын
感谢大佬教程 我是纯小白 啥都不会 😁
@memoryofchildhood3582 10 ай бұрын
小白问下这个和联网收费的chatgpt-4有什么不一样
@stonex_6451 10 ай бұрын
这个是开源项目 码农自己搞的，收费的chartgpt4是openAI公司搞的， 模型数据量差异也很大 回答正确率一个地上 一天天上。建议别折腾本地部署，回答正确率不高。有些浪费时间
@Isdfs 10 ай бұрын
感谢🙏
@サララ-ラン 10 ай бұрын
还不如直接OPENAI的GPT-4，那个能直接上传文件
@bryanjofersion 10 ай бұрын
你每个月给我20美金，我立马升级
@luckgood-w4o 10 ай бұрын
这个模型可以自己训练么？比如添加自己的文本
@xinchangkk163 9 ай бұрын
能否告知一下：Enable API server 这个功能具体该如何应用？能否通过API搭建网页供其他人使用呢？
@topmilkt 10 ай бұрын
太给力了
@genelee2031 6 ай бұрын
最後的小寶貝有點睛之效!
@董浩然-t6t 10 ай бұрын
太感谢了
@zhongyao-sc1lj 7 ай бұрын
10:44后面小宝贝是什么内容？为什么要断。
@min-wu3bp 8 ай бұрын
MacOS版安装后到不欢迎界面，是个“维护GPT4ALL installer“的界面，没法进入了，求支持，感谢
@水上飘电影-n3j 7 ай бұрын
哦也是
@data_wizards 10 ай бұрын
win11，打开后没有任何反应，用管理员模式打开会跳出是否允许运行的对话框，点允许后还是没反应
@samlam5025 10 ай бұрын
我也是没法打开应用
@laser-crystal 7 ай бұрын
想知道这个本地化部署后，怎么才能喂PDF文件给他。由于工作性质的原因，涉及到太多的专业知识。
@zzk-b4z 10 ай бұрын
这个和copilot、openai的gpt哪个更好
@lxw6819 10 ай бұрын
零度的解说言简意赅 !
@viscourtroy 10 ай бұрын
跟初初推出相比，有些部份的運算能力可能受到「閹割」，一些運算能力可能受到削弱，怕有人利用其做危險的事。我估﹗
@nainaiero 10 ай бұрын
所以體現了開源的重要性，就跟StableDiffusion一樣
@Johnathan-_- 10 ай бұрын
請問會拍影片教學如何使用apple ferret開源模型嗎？
@nigelhuang2910 10 ай бұрын
看教程这个是导入学习好的数据，有没有可能自己训练，成为自己私人的大模型？@零度解说
@009game7 10 ай бұрын
我有两台电脑，一个是零刻的小主机 AMD R5 5560U, 另一个是笔记本 i5 10300H + 1050 。哪个更适合？
@ivado649 10 ай бұрын
模型有显存需求，用cpu跑回答太慢了
@Douglas-f 10 ай бұрын
没有32g及以上内存的电脑不建议搞😅😅，我16g运行其中任何一个速度都很卡很慢，普通人不建议，而且本地模型有点笨（可能取决于你的cpu），感觉甚至不如api调用gpt3.5
@robotjohn5354 10 ай бұрын
要是能像sd 一样可以本地loRA调教就好了
@mlau9991 10 ай бұрын
不错哈！如果是移动使用场景比较多，比如安卓手机上的有什么选择？
@Tinali-cb6fk 9 ай бұрын
你可以试试这个dmla.lanzout.康姆/b05pgmd3a
@毛小虎 9 ай бұрын
这个好
@xinchen6512 3 ай бұрын
GTP4ALL可以自己训练进行训练么？
@庸懒 10 ай бұрын
目测这个视频要火
@Vincent_NFT 10 ай бұрын
卧槽，零度老师4090
@Jimix-is7um 7 ай бұрын
这个GPT-4免费开源模型，真的是OpenAI发布的那个吗？
@dingbangjiang Ай бұрын
这个和你那个：免費使用GPT-4 的3種方法！ 一分錢不花，白嫖 ChatGPT 專業版、DALL·E 3、GPT-4 Turbo等大模型 | 零度解說,有什么区别？本机部署和网页使用有什么区别？
@spearous 10 ай бұрын
请问内存16G，是指电脑配置内存16G，还是模型运行时占用内存16G？
@xxxx9131 10 ай бұрын
显卡显存
@andyandyli2 10 ай бұрын
大大 寫小說 那一個模型最適合啊
@yicaili1089 10 ай бұрын
这个全程都需要CPU吗 GPU加载失败 显存不够？我是4090啊
@竹金 6 ай бұрын
有解说MacOS的视频吗
@ziyanqi5359 8 ай бұрын
零度，看你设置了GPU后运行右下角还是提示“GPU loading failed”，这是用不了GPU吗？还是只能用Mistral OpenOrca 语言模型才可以GPU提速？
@artart3391 10 ай бұрын
为了知道结尾小宝贝出来吧是什么东西，我决定安装这个软件😂
@李云-f1b 9 ай бұрын
请问零度老师你的电脑配置是什么，是什么显卡
@dlwangnan 10 ай бұрын
我来看看小宝贝！🥰🥰
@MJLee-wl6kt 10 ай бұрын
好玩是挺好玩, 就正確率實在太低了, 低到幾乎沒有實用價值. 另外, GPU加速經常無法啟動, 載入模型時常凍結. 當然如果是拿來學習的話還是挺OK的.
@fenix20075 10 ай бұрын
在hugginface 上搜查模型名，試試看用 dolphin-2.2.1-Mistral-7B-GGUF，選 q_8 ，然後temperature 和top_p 壓到0.1
@tgao-r5m 9 ай бұрын
确实，东西出发点不错，但是能力确实不行
@neilrobin 10 ай бұрын
试了GPT4ALL FALCON , HERMES , Mistral OpenOrca都不太准确，可能只是基础数据集的标准答案，HERMES 太笨了，也不会联网，是两年前的数据
@neilrobin 10 ай бұрын
HERMES我在问正常的问题，他每个回答后面都显示中国发生新冠疫情变种，问我需不需要了解更多，尼玛，还说51区在北京
@aspire9 10 ай бұрын
Hermes模型是一种在数据异构场景下实现高效通信和推理的联邦学习框架，它有着广泛的应用前景，例如智能医疗、智能交通、智能教育等领域
@无云晴空 10 ай бұрын
太牛了
@一片草皮 9 ай бұрын
3.5和4透過api key連接 不用錢嗎?還是限流?
自说自话的总裁
Рет қаралды 500 М.