当前位置:首页 » 《休闲阅读》 » 正文

Ollama安装和实例部署(Linux版本)

13 人参与  2024年09月13日 12:02  分类 : 《休闲阅读》  评论

点击全文阅读


下载 Ollama

Ollama的官网地址

在 Linux 上安装 - Ollama中文网

Ollame的官网介绍

1、ollama安装或者更新

自动安装或者更新

#Linuxcurl -fsSL https://ollama.com/install.sh | sh

这块我们可以直接下载,他是默认下载最新版本的。你也可以手动安装

手动安装

将其下载到您的 PATH 中的目录sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollamasudo chmod +x /usr/bin/ollama为 Ollama 创建一个用户sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama在 /etc/systemd/system/ollama.service 中创建一个服务文件:[Unit]Description=Ollama ServiceAfter=network-online.target[Service]ExecStart=/usr/bin/ollama serveUser=ollamaGroup=ollamaRestart=alwaysRestartSec=3[Install]WantedBy=default.target然后启动服务:sudo systemctl daemon-reloadsudo systemctl enable ollama

2、ollama常用指令

#使用感觉和docker类似,输出ollama就会有提示ollama serve        #启动ollamaollama create        #从模型文件创建模型ollama show                #显示模型信息ollama run                #运行模型ollama pull                #从注册表中拉取模型ollama push                #将模型推送到注册表ollama list                #列出模型ollama cp                #复制模型ollama rm                #删除模型ollama help                #获取有关任何命令的帮助信息

3、卸载

移除 ollama 服务:sudo systemctl stop ollamasudo systemctl disable ollamasudo rm /etc/systemd/system/ollama.service

4、使用实例:举例 Llama3使用示例

#下载模型ollama pull llama3#下载成功查看模型ollama list#运行模型ollama run llama3


点击全文阅读


本文链接:http://zhangshiyu.com/post/159227.html

<< 上一篇 下一篇 >>

  • 评论(0)
  • 赞助本站

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

关于我们 | 我要投稿 | 免责申明

Copyright © 2020-2022 ZhangShiYu.com Rights Reserved.豫ICP备2022013469号-1