一、测试环境 SDK版本：4.4.0 GPU型号：BI150 CPU架构：arm 模型所需最低GPU数量：1 二、创建容器 1. 获取镜像 密码 联系天数售后工程师 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn get /client_tmp/support/4.4/vll...
环境准备 安装好SDK4.4.0，安装好docker 。 下载镜像 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn，密码联系售后获取 。 get /client_tmp/support/mr-bi150-4.4.0-aarch64-ubuntu20.04-py3.10-poc-llamafa...
环境准备 安装好SDK4.4.0，安装好docker 。 下载镜像 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn，密码联系售后获取 。 get /client_tmp/support/llamafactory/llamafactory_v3.tar.gz ./ 。 创建容器 gu...
确保已安装docker 下载Qwen2.5模型权重 在线下载 apt-get install git-lfs 或者yum install git-lfs mkdir -p /home/Qwen/ 。 cd /home/Qwen/ 。 git clone https://www.modelscope.cn/Qwen/Qwen2...
一、测试条件 sdk4.4版、X86环境 、MR100卡、镜像harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-x86-ubuntu20.04-py3.10-poc-llm-infer:v1.2.3 。 二、创建容器 1、获取镜像 docker pull harbor.iluvatar.c...
一、测试条件 sdk4.4版、X86环境（Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz） 、MR100卡、镜像corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容器 1、获取镜像 sftp -P 2988...
一、测试条件 sdk4.4版、X86环境（Intel(R) Xeon(R) Gold 6148 CPU @ 2.40GHz） 、MR100卡、基础镜像corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容器 1、获取镜像 sftp -P 29...
下载4.4.0 docker base镜像包和相关包 通过SFTP下载，SFTP下载地址和密码，请联系天数售后工程师获取 。 get /SDK_4.4.0/x86/sdk/corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run /home 。 下载...
下载4.4.0 docker base镜像包和相关包 通过SFTP下载，SFTP下载地址和密码，请联系天数售后工程师获取 。 get /SDK_4.4.0/x86/sdk/corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run /home 。 下载...
确保已安装docker 下载Qwen2.5-VL模型权重 apt-get install git-lfs 或者yum install git-lfs mkdir -p /home/Qwen/ 。 cd /home/Qwen/ 。 git clone https://www.modelscope.cn/Qwen/Qwen2.5...
