jinyong

给大家分享一款很实用的软件， 免费！！隐私！！本地！！Llama 3大模型隐私机器人，无需 GPU 或互联网。


文章比较长，介绍的很详细，容易出问题的地方，都做了详细的解决办法，耐心对着做就ok









第一步下载、安装

https://gpt4all.io/index.html

windows、mac自行选择，本教程是windows版本







第二步（注意：这步需要开魔法，这里一定要注意，出现下载卡住，要注意网络环境）

双击桌面图标打开，勾选统一NO 不把数据上传数据库



然后会出现这个界面，我们输入Llama 3 ，进行模型下载








我这里选择的第一个8B模型，因为这个模型需要的电脑配置很低，如果有高级显卡的可以往下翻，自行选择







注意如果出现下载卡住，实在下载不了的，点击这里去官网手动下载











下载完成后，复制这里的路径，打开文件夹




然后把刚刚手动下载好的模型 拖进去








然后点击刷新，再点击左边的选择模型 就有了






第三步

关闭刚刚的模型下载，让他后台自动下载，我们点击右上角的设置








点击左边第二个选项

device 这里如果你的电脑有显卡，一定要选择对应的显卡，这样运行速度会快很多！！！








第四步 运行

如果想让模型用中文回复，第一句话要输入：你好请用中文回复







接下来就可以随意使用啦





往期目录：

VAS视频生成字幕文件、字幕翻译、生肉片子加字幕教程，小白软件谁都能学会！
thread-11904551-1-1.html

[ 本帖最后由 内力煮火锅 于 2024-4-30 19:34(GMT+8) 编辑 ]

本帖最近评分记录

• 内力煮火锅 金币 +66 实测好用 2024-4-30 20:39
• 依啼子 金币 +30 感谢分享，论坛有您更精彩！ 2024-4-30 18:19

Was175

求魔法上网靠谱方法

OAHIHZNAW

老哥，现在还有靠谱的可以搞黄色的模型吗

cwhcpvrb

需要什么配置呀

16104905

这个可以的，一直想研究本地部署，就是不会弄。楼主的教程图文并茂

jdh

可以呀，一直想本地部署一个私人的

manshang0803

大佬，gpu显存要多少才够啊

darkman

论坛的大牛或者论坛组织人力做个没有限制的聊天女友，就是付费也有钱途！怎么一直没人做这个工作

greptee

感谢楼主大神分享，部署好之后，有好用的公网IP服务吗，想远程连一下ssh

804027539

其实说真的，最近国内这个方面打的严，国外的又道德高，成气候的要不自我阉割，要不被喝茶，如果有人能在外面起一个ai宇宙那个水平的模型，搞个网站出来，这中间盈利空间是按百万起步的买卖，可惜又要大本钱，又要身在外，大部分人都是有心无力。

本帖最近评分记录

• 内力煮火锅 金币 +2 认真回复，奖励！ 2024-5-8 08:53