本地部署LLama-Factory

源码获取

github 官方代码镜像地址：https://github.com/hiyouga/LLaMA-Factory

https://github.com/hiyouga/LLaMA-Factory

控制台中通过git，下载LLaMA-Factory代码项目到本地：

git clone https://github.com/hiyouga/LLaMA-Factory

创建虚拟环境

在LLaMA-Factory目录下通过conda创建虚拟环境

conda create -n fine-tuning python=3.10

然后输入y继续

进入虚拟环境

conda activate fine-tuning

​

安装环境依赖

pip install -e .[metrics] 

这里我是使用了清华的下载源，速度要快一点

pip install -e .[metrics] -i https://pypi.tuna.tsinghua.edu.cn/simple

下载完成，并自动安装成功：

运行llama-factory

在LLaMA-Factory目录中，Terminal中输入以下命令：

llamafactory-cli webui

然后在浏览器中打开链接 http://127.0.0.1:7860/

点击左上角下拉选项卡，支持切换成中文：

至此就完成了llama-factory的部署