Ollama 可以设置的环境变量
Ollama 可以设置的环境变量
在Ollama中,环境变量赋予了我们调整和定制这个强大工具的能力。就像一位指挥家调整乐队的每一件乐器,通过精心设置这些环境变量,我们可以让Ollama完美地适应我们的需求,奏出最和谐的数据交响曲。
可以设置的环境变量有哪些?
- OLLAMA_HOST:设置网络监听端口。当我们设置OLLAMA_HOST为0.0.0.0时,就相当于开放端口,可以让人意外部网络访问。
- OLLAMA_MODELS:设置模型的存储路径。当我们设置OLLAMA_MODELS=F:\OllamaCache,就相当于给模型们在F盘建了一个仓库,让它们远离C盘。
- OLLAMA_KEEP_ALIVE: 它决定了我们的模型们可以在内存里的存活时间。设置OLLAMA_KEEP_ALIVE=24h,就好比给模型们装上了一块超大容量电池,让它们可以连续工作24小时,时刻待命。
- OLLAMA_PORT:用来修改ollama的默认端口,默认是11434,可以在这里改为你想要的端口。
- OLLAMA_NUM_PARALLEL:限制了Ollama可以同时加载的模型数量
- OLLAMA_MAX_LOADED_MODELS:可以确保系统资源得到合理分配。
环境变量的设置看似简单,但却是驾驭Ollama的关键。它们让Ollama从一个普通的工具,变成了我们可以随心调教的得力助手。