1.官方文档:
https://llamafactory.readthedocs.io/zh-cn/latest/getting_started/installation.html
2.CUDA 安装
打开 设置 ,在 关于 中找到 Windows 规格 保证系统版本在以下列表中:
支持版本号
Microsoft Windows 11 21H2
Microsoft Windows 11 22H2-SV2
Microsoft Windows 11 23H2
Microsoft Windows 10 21H2
Microsoft Windows 10 22H2
Microsoft Windows Server 2022
选择对应的版本下载并根据提示安装
打开 cmd 输入 nvcc -V ,若出现版本号则安装成功。
否则,检查系统环境变量,保证 CUDA 被正确导入。
3.LLaMA-Factory 安装
在安装 LLaMA-Factory 之前需要安装git和Anaconda
Anaconda安装可参考
运行以下指令以安装 LLaMA-Factory 及其依赖:
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]"
如果出现环境冲突,请尝试使用 pip install --no-deps -e . 解决
4.LLaMA-Factory 校验
完成安装后,可以通过使用 llamafactory-cli version 来快速校验安装是否成功,出现版本号代表成功