Comfyui-qwen-image-2512模型部署（SDK 4.4.0 + X86） 。 一、测试条件 SDK版本：4.4.0 模型所需最低GPU数量：1 CPU架构：X86_64 二、创建容器 1、获取镜像 docker pull harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-x...

qwen-image-2512文生图

一、测试环境 SDK版本：4.4.0 GPU型号：MR100、BI150、BI150s 模型所需最低GPU数量：4卡BI150、8卡MR100 CPU架构：X86_64 Docker镜像：corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容...

前提已安装4.4.0驱动 如未安装SDK，请参考如下指南： 。  https://ixkb.iluvatar.com.cn:9443/webdoc/view/Pub8a16948a9a4cb023019cad9168850f71.html 进行安装 。 模型下载   pip install modelsco...

测试环境 平台：x86 。 SDK版本：4.4.0 。 GPU卡：BI_V150 。 数据目录：/data/ 。 模型目录：/data/models 。 docker镜像：harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-x86-ubuntu20.04-py3.10-poc-llm-inf...

一、测试环境 SDK版本：4.4.0 GPU型号：BI150 CPU架构：arm 模型所需最低GPU数量：2 二、创建容器 1. 获取镜像 密码 联系天数售后工程师 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn  get /client_tmp/support/4.4/vll...

一、测试环境 SDK版本：4.4.0 GPU型号：MR100 CPU架构：x86_64 模型所需最低GPU数量：1 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件： 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 密码：请咨询天数售后 get /SDK_4.4.0...

前提 Qwen3.5-27B启动环境，可以参考 。 mr100_bi150+x86容器上运行Qwen3.5（SDK4.4.0)-天数智芯知识库系统 。 这里默认环境都已经安装好，已经进入到容器中，下边的操作默认在容器中进行。 启动服务 export VLLM_RPC_TIMEOUT=50000 。 export VLLM_ENFORCE...

一、测试环境 SDK版本：4.4.0 GPU型号：MR100 模型所需最低GPU数量：2 CPU架构：x86_64 二、创建容器 。 1. 获取镜像 。 docker pull registry.iluvatar.com.cn:10443/customer/sz/vllm0.26.0-4.4.0-x86:v2.1 。 2. 创建容器 。...

Qwen3-30B-A3B-w4a8-LMCache-vLLM（X86+4.4.0+BI150） Qwen3-30B-A3B-w4a8 对话服务部署（vLLM · LMCache · SDK 4.4.0 · X86） 。 一、测试条件 SDK版本：4.4.0 。 GPU型号：BI150 。 模型所需最低GPU数量：4（W4A8，-tp ...

一、测试环境 SDK版本：4.4.0 GPU型号：MR100 模型所需最低GPU数量：1卡 CPU架构：X86_64 Docker镜像：registry.iluvatar.com.cn:10443/customer/sz/vllm0.17.0-4.4.0-x86:v7 。 二、创建容器 1. 获取镜像 离线环境通过SFTP从指定服务器下...