开发喵星球

Ollama服务设置外网访问

Ollama服务设置外网访问

Linux

Ollama在linux环境中就比较简单了,修改配置文件即可
1、首先停止ollama服务:

systemctl stop ollama

2、修改ollama的service文件:

/etc/systemd/system/ollama.service

在[Service]下边增加一行:

Environment=“OLLAMA_HOST=0.0.0.0:8080”

这里我自己指定了端口,没有用默认的11434端口。这个大家按需自己修改即可

3、重载daemon文件

systemctl daemon-reload

4、启动ollama服务

systemctl start ollama

windows

1、首先停止ollama的服务。

由于windows下安装的ollama不是一个标准的windows service,所以只能直接杀掉两个ollama进程。

2、为当前windows系统添加环境变量:

电脑-属性-高级系统设置-环境变量
变量:OLLAMA_HOST 值:0.0.0.0:11434

image-20240703144334807

3、关掉已打开的命令行窗口,打开新命令行,用ollama serve或者ollama start来启动ollama服务,此时ollama服务在启动时将读取环境变量中的OLLAMA_HOST,支持IP端口访问

这样就可以啦

   
分类:玩技术 作者:荡荡, 浩浩 发表于:2024-07-03 15:53:54 阅读量:843
<<   >>


powered by kaifamiao