查看: 97|回覆: 0

linux服务器离线安装ollama

[複製鏈接]

3

主題

0

回帖

0

積分

热心网友

金币
0
閲讀權限
220
精華
0
威望
0
贡献
0
在線時間
0 小時
註冊時間
2010-10-23
發表於 2025-2-7 17:34:00 | 顯示全部樓層 |閲讀模式

一、前言

公司服务器在线安装ollama总是超时连接不上,想着本质就是个安装包,离线安装也可以。固有了这样的一篇博客记录一下。

二、流程

1、查看服务器cpu架构

执行指令

lscpu

image

# x86_64 CPU选择下载ollama-linux-amd64
# aarch64|arm64 CPU选择下载ollama-linux-arm64

2、下载对应压缩包,并移动至服务器端

然后进入ollama的GitHubrelease界面,根据cpu架构下载tgz压缩包:

https://github.com/ollama/ollama/releases/

image

下载可以使用迅雷代理,对于没有魔法的网络环境比较友好。

3、解压压缩包

走到tgz文件夹路径,然后运行解压指令即可

sudo tar -C /usr -xzf ollama-linux-amd64.tgz

4、运行ollama

新开终端执行指令:

ollama serve

再新开终端,键入

ollama -v

验证服务是否在运行。

三、enjoy yourself~~

之后就可以正常拉取模型,启动ollama服务、关闭ollama服务了。



来源:https://www.cnblogs.com/Vsonic12138/p/18702984
回覆

使用道具 舉報

您需要登錄後才可以回帖 登錄 | 立即注册

本版積分規則

相关侵权、举报、投诉及建议等,请发 E-mail:qiongdian@foxmail.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.

在本版发帖返回顶部