卸载原来SDK (如果有,就需要执行,没有跳过这步) rmmod iluvatar 。 sudo /usr/local/corex/bin/corex-driver-uninstaller 。 sudo /usr/local/corex/bin/corex-uninstaller 。 ls -l /usr/local/corex* 。 ...
确保已安装docker 下载DeepSeek模型权重 。 apt-get install git-lfs 或者yum install git-lfs 。 cd /home/deepseek-ai/ 。 git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Di...
准备权重 (前提是4.3.0SDK已安装) apt-get install git-lfs 或者yum install git-lfs mkdir -p /home/model/ 。 git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1.git 。 准备测试脚...
确保已安装docker 下载DeepSeek模型权重 apt-get install git-lfs 或者yum install git-lfs cd /home/deepseek-ai/ 。 git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Distil...
一、测试前准备工作 1.下载镜像 通过SFTP下载,SFTP下载地址和密码,请联系天数售后工程师获取 。 。 get /client_tmp/support/mr-bi150-4.2.0-x86-ubuntu20.04-py3.10-customer-ds-671b-v1.3.tar 。 2.下载模型 apt-get install g...
前置条件 两台服务器节点 天数加速卡驱动 天数软件栈Docker镜像 DeepSeek模型转换工具ds-fp82int8-tool 部署DeepSeek 1. 解压deepseek-infer.tar后,按照容器安装方式在两台服务器节点安装天数软件栈。 2. 在两台服务器执行以下命令,以deepseek-infer:v1模型为例: 。 ...