一、测试条件 sdk4.4版、X86环境 、MR100卡、镜像harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-x86-ubuntu20.04-py3.10-poc-llm-infer:v1.2.3 。 二、创建容器 1、获取镜像 docker pull harbor.iluvatar.c...
一、测试条件 sdk4.4版、X86环境(Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz) 、MR100卡、镜像corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容器 1、获取镜像 sftp -P 2988...
一、测试条件 sdk4.4版、X86环境(Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz) 、MR100卡、基础镜像corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容器 1、获取镜像 sftp -P 29...
下载4.4.0 docker base镜像包和相关包 通过SFTP下载,SFTP下载地址和密码,请联系天数售后工程师获取 。 get /SDK_4.4.0/x86/sdk/corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run /home 。 下载...
下载4.4.0 docker base镜像包和相关包 通过SFTP下载,SFTP下载地址和密码,请联系天数售后工程师获取 。 get /SDK_4.4.0/x86/sdk/corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run /home 。 下载...
确保已安装docker 下载Qwen2.5-VL模型权重 apt-get install git-lfs 或者yum install git-lfs mkdir -p /home/Qwen/ 。 cd /home/Qwen/ 。 git clone https://www.modelscope.cn/Qwen/Qwen2.5...