一、测试环境 SDK版本：4.4.0 GPU型号：MR100 模型所需最低GPU数量：2 CPU架构：x86_64 二、创建容器 。 1. 获取镜像 。 docker pull registry.iluvatar.com.cn:10443/customer/sz/vllm0.26.0-4.4.0-x86:v2.1 。 2. 创建容器 。...

一、测试环境 SDK版本：4.4.0 GPU型号：MR100 模型所需最低GPU数量：1 CPU架构：arm 二、创建容器 。 1. 获取镜像 。 docker pull harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-aarch64-ubuntu20.04-py3.10-poc-vll...

一、测试环境 SDK版本：4.4.0 模型所需最低GPU数量：4 CPU架构：x86_64 二、创建容器 。 1. 获取镜像 。 docker pull registry.iluvatar.com.cn:10443/customer/sz/vllm0.26.0-4.4.0-x86:v2.1 。 2. 创建容器 。 docker run ...

Qwen3.8-27B模型部署（SDK 4.4.0 + ARM） 。 一、测试条件 SDK版本：4.4.0 GPU型号：MR100、BI150 模型所需最低GPU数量：4 CPU架构：ARM 二、创建容器 1、获取镜像 docker pull harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4....

Qwen3.8-27B ARM

Qwen3.8-27B-W8A8模型部署（SDK 4.4.0 + arm） 。 。 。 一、测试环境 SDK版本：4.4.0 GPU型号：MR100、BI150 模型所需最低GPU数量：2 CPU架构：arm 二、创建容器 。 1. 获取镜像 。 docker pull harbor.iluvatar.com.cn:10443/saas...

Qwen3.8 ARM

Qwen3.8-Flash-Next-w4a8模型部署（SDK 4.5.0 + X86） 。 一、测试条件 SDK版本：4.5.0 模型所需最低GPU数量：8 CPU架构：X86_64 二、安装SDK4.5.0 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn # 密码请咨询天数售后 。 ge...

Qwen3.8-Flash-Next-w4a8

一、测试环境 SDK 版本：4.4.0 。 GPU 型号：MR-V100 或 BI-V150 。 CPU 架构：x86_64 。 模型所需最低 GPU 数量：1（MR-V100单卡，BI-V150 0.5卡） 。 二、创建容器 ### 1. 获取镜像 。 docker pull harbor.iluvatar.com.cn:10443/...

Qwen3.8-27B llama.cpp 32GB单卡部署