确保已安装docker

下载DeepSeek模型权重

apt-get install git-lfs 或者yum install git-lfs 

cd /home/deepseek-ai/

git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Distill-Qwen-7B.git

git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B.git

git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Distill-Qwen-32B.git

 配置全向箔镜像地址

• 配置淄博habor的hosts    vim /etc/hosts

         120.220.95.189 zibo.harbor.iluvatar.com.cn

• 修改docker的配置，vim   /etc/docker/daemon.json

{

"exec-opts": ["native.cgroupdriver=systemd"],

"insecure-registries": ["zibo.harbor.iluvatar.com.cn:30000"]

}

• 重启docker    

拉取全向箔镜像

docker pull zibo.harbor.iluvatar.com.cn:30000/saas/bi100-3.2.1-x86-ubuntu20.04-py3.10-poc-llm-finetune:v1.2.1

启动容器

docker run -it -v /usr/src:/usr/src -v /lib/modules:/lib/modules -v /dev:/dev -v /home:/home -p 1000-1999:1000-1999 --name=test_lora --pid=host --ipc=host --privileged --cap-add=ALL --pid=host zibo.harbor.iluvatar.com.cn:30000/saas/bi100-3.2.1-x86-ubuntu20.04-py3.10-poc-llm-finetune:v1.2.1 /bin/bash

容器内执行微调

配置脚本

cd /root/apps/llama-factory/modelzoo/Qwen/Qwen2-7B/single_node_lora

vi pretrain.sh

--model_name_or_path /home/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B （修改这行，指定到实际的权重路径）

vi sft.sh

--model_name_or_path /home/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B （修改这行，指定到实际的权重路径）

vi reward.sh

--model_name_or_path /home/deepseek-ai/DeepSeek-R1-Distill-Qwen-14B （修改这行，指定到实际的权重路径）

执行脚本

export OPENBLAS_NUM_THREADS=1

bash pretrain.sh

bash sft.sh

bash reward.sh