ubuntu部署chat-ollama详细教程

ChatOllama 是一个基于 LLMs（大语言模型）的开源聊天机器人平台，支持多种语言模型，包括：

• Ollama 服务模型
• OpenAI
• Azure OpenAI
• Anthropic
• Moonshot
• Gemini
• Groq

ChatOllama 支持多种聊天类型：

• 与 LLMs 免费聊天
• 基于知识库与 LLMs 聊天

准备数据库

ChatOllama 支持 2 种向量数据库：Milvus 和 Chroma。

请参阅 .env.example 文件，了解如何使用向量数据库配置。

# 支持的值：chroma，milvus
VECTOR_STORE=chroma
CHROMADB_URL=http://localhost:8000
MILVUS_URL=http://localhost:19530

默认情况下，ChatOllama 使用了 Chroma。如果想使用 Milvus，请将 VECTOR_STORE 设置为 milvus，并指定相应的 URL。它在开发服务器和 Docker 容器中都可用。

这里我使用的是chroma数据库，安装也十分的简单

安装chroma

pip3 install chromadb

启动chroma

chroma run

拉取ChatOllama源码

git clone https://github.com/sugarforever/chat-ollama.git

部署ChatOllama

1 复制 .env.example 文件到 .env 文件：

cp .env.example .env

2 确保安装依赖项：

pnpm install

3 运行迁移命令以创建数据库表：

pnpm prisma-migrate

安装pnpm

这里官方使用的是pnpm命令来进行安装依赖环境的，如果大家没有pnpm建议安装一个。

注意：安装pnpm要求nodejs的版本要在18以上。

安装nodejs

curl -fsSL https://deb.nodesource.com/setup_20.x | sudo -E bash - &&\
sudo apt-get install -y nodejs

安装pnpm

sudo npm install -g pnpm

启动ChatOllama

确保 Ollama Server 服务器和 ChromaDB 都正在运行。

启动ChatOllama在 http://localhost:3000：

pnpm dev

这样就完成啦。