通信人家园

 找回密码
 注册

只需一步,快速开始

短信验证,便捷登录

搜索
查看: 1967|回复: 2
打印

本地部署llama3.1 [复制链接]

军衔等级:

  上等兵

注册:2015-5-31
跳转到指定楼层
1#
发表于 2024-7-30 09:23:25 |只看该作者 |倒序浏览
这里以win11举例
1、在官网下载ollama
https://ollama.com/download
2、运行下载的exe文件安装Windows到C盘
3、win+R 运行cmd
命令行输入ollama run llama3.1:8b 下载镜像,本地部署建议8b,还可以选78b和405b占用资源太大,不建议。
4、下载好后就可以和llama对话了

下次打开只需要在cmd里面输入ollama run llama3.1:8b 就可以唤出llama.


举报本楼

本帖有 2 个回帖,您需要登录后才能浏览 登录 | 注册
您需要登录后才可以回帖 登录 | 注册 |

手机版|C114 ( 沪ICP备12002291号-1 )|联系我们 |网站地图  

GMT+8, 2024-11-23 00:48 , Processed in 0.093162 second(s), 17 queries , Gzip On.

Copyright © 1999-2023 C114 All Rights Reserved

Discuz Licensed

回顶部