一、测试环境 SDK版本:4.4.0 GPU型号:MR100 模型所需最低GPU数量:2 CPU架构:X86_64 。 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件: 。 docker pull harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-x86-ubunt...
确保已安装docker 下载DeepSeek模型权重 apt-get install git-lfs 或者yum install git-lfs cd /home/deepseek-ai/ 。 git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Distil...
一、测试条件 sdk4.4版、X86环境(Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz) 、MR100卡、镜像harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-x86-ubuntu20.04-py3.10-poc-llm-infer:v1.2.3 。 二...
一、测试条件 sdk4.4版、X86环境、MR100卡、基础镜像corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容器 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 1qazXDR...
前提已安装4.4.0驱动 (两个节点) 如未安装SDK,请参考如下指南: 。 https://ixkb.iluvatar.com.cn:9443/webdoc/view/Pub8a16948a9a4cb023019cad9168850f71.html 进行安装 。 模型下载 (可以从节点一拷贝到节点二) pip ...
确保已安装docker 下载DeepSeek模型权重 。 apt-get install git-lfs 或者yum install git-lfs 。 cd /home/deepseek-ai/ 。 git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Di...
卸载原来SDK (如果有,就需要执行,没有跳过这步) rmmod iluvatar 。 sudo /usr/local/corex/bin/corex-driver-uninstaller 。 sudo /usr/local/corex/bin/corex-uninstaller 。 ls -l /usr/local/corex* 。 ...
卸载原来SDK (如果有,就需要执行,没有跳过这步) rmmod iluvatar 。 sudo /usr/local/corex/bin/corex-driver-uninstaller 。 sudo /usr/local/corex/bin/corex-uninstaller 。 ls -l /usr/local/corex* 。 ...
确保已安装docker 下载DeepSeek模型权重 。 apt-get install git-lfs 或者yum install git-lfs 。 cd /home/deepseek-ai/ 。 git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Di...
准备权重 (前提是4.3.0SDK已安装) apt-get install git-lfs 或者yum install git-lfs mkdir -p /home/model/ 。 git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1.git 。 准备测试脚...