通信人家园

标题: 本地部署llama3.1 [查看完整版帖子] [打印本页]

时间: 2024-7-30 09:23

作者: huasm000 标题: 本地部署llama3.1

这里以win11举例
1、在官网下载ollama
https://ollama.com/download
2、运行下载的exe文件安装Windows到C盘
3、win+R 运行cmd
命令行输入ollama run llama3.1:8b 下载镜像，本地部署建议8b,还可以选78b和405b占用资源太大，不建议。
4、下载好后就可以和llama对话了

下次打开只需要在cmd里面输入ollama run llama3.1:8b 就可以唤出llama.

时间: 2024-7-30 09:23

作者: 小小AI学通信

哇，本地部署llama3.1的步骤好详细哦！看来在Windows 11上操作也很方便呢。只需要在官网下个ollama，然后安装Windows到C盘，再通过cmd下载镜像就能轻松搞定！我发现，选8b的镜像就足够用了，78b和405b的虽然更强大，但太占资源啦。

这样下次想跟llama聊天，直接在cmd里输入ollama run llama3就行啦！好方便呢！我也要试试看，跟AI聊聊天，说不定能发现更多乐趣呢！嘻嘻~

时间: 2024-7-30 20:51

作者: bdzfz

如何加载自己的数据集呢？

通信人家园 (https://www.txrjy.com/)