前提已安装4.4.0驱动 如未安装SDK，请参考如下指南： 。  https://ixkb.iluvatar.com.cn:9443/webdoc/view/Pub8a16948a9a4cb023019cad9168850f71.html 进行安装 。 模型下载   pip install modelsco...

前提 Qwen3.5-27B启动环境，可以参考 。 mr100_bi150+x86容器上运行Qwen3.5（SDK4.4.0)-天数智芯知识库系统 。 这里默认环境都已经安装好，已经进入到容器中，下边的操作默认在容器中进行。 启动服务 export VLLM_RPC_TIMEOUT=50000 。 export VLLM_ENFORCE...

一、测试环境 SDK版本：4.4.0 （龙芯版本） GPU型号：BI150 CPU架构：龙芯 模型所需最低GPU数量：8 二、创建容器 1. 获取镜像 使用docker pull进行镜像拉取 docker pull registry.iluvatar.com.cn:10443/loongson/6000_mr4.4.0:v1.2_051...

一、测试环境 SDK版本：4.4.0 GPU型号：BI150 CPU架构：x86_64 模型所需最低GPU数量：4 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件： 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 密码：请咨询天数售后 。 get /client_...

前提：已安装4.4.0驱动  如未安装SDK，请参考如下指南： 。 https://ixkb.iluvatar.com.cn:9443/webdoc/view/Pub8a16948a9a4cb023019cad4d85300ef9.html（mr系列） 。 或者 。 https://ixkb.iluvatar.com.cn:9...

前提已安装4.4.0驱动  如未安装SDK，请参考如下指南： 。 https://ixkb.iluvatar.com.cn:9443/webdoc/view/Pub8a16948a9a4cb023019cad9168850f71.html （mr系列） 。 或者 。 https://ixkb.iluvatar.com.cn:9...

一、测试环境 SDK版本：4.4.0 （龙芯版本） GPU型号：MR100 CPU架构：龙芯平台 模型所需最低GPU数量：1 二、安装头文件 。 wget http://58.247.142.53:10010/sol/sdk/loongarch64/partial_install_cuda_header.zip unzip partia...

龙芯 Qwen3.5 MR100 SDK4.4

前提已安装4.4.0驱动  如未安装SDK，请参考如下指南： 。 https://ixkb.iluvatar.com.cn:9443/webdoc/view/Pub8a16948a9a4cb023019cad9168850f71.html （mr系列） 。 或者 。 https://ixkb.iluvatar.com.cn:9...

Qwen3.5_35B_A3B模型部署（SDK 4.4.0 + X86） 。 一、测试条件 SDK版本：4.4.0 GPU型号：MR100 模型所需最低GPU数量：4 CPU架构：X86_64 二、创建容器 1、获取镜像 docker pull registry.iluvatar.com.cn:10443/customer/sz/vll...

Qwen3.5 SDK4.4.0

一、测试条件 sdk4.4版、X86环境 、MR100卡、镜像harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-x86-ubuntu20.04-py3.10-poc-llm-infer:v1.2.3 。 二、创建容器 1、获取镜像 docker pull harbor.iluvatar.c...