mr100_bi150+x86容器上运行DeepSeek蒸馏模型（SDK4.2.0)
mr100_bi150+x86容器上运行DeepSeek蒸馏模型（SDK4.2.0)
知识 2025-05-07 11:13
天垓100+x86上容器运行DeepSeek蒸馏模型（SDK 3.2.1）
天垓100+x86上容器运行DeepSeek蒸馏模型（SDK 3.2.1）
知识 2025-05-07 11:14
天垓100+arm上容器运行DeepSeek蒸馏模型（SDK 3.2.1）
天垓100+arm上容器运行DeepSeek蒸馏模型（SDK 3.2.1）
知识 2025-05-07 11:15
最新知识 更多 >
专 Kimi-VL-A3B-Instruct模型部署（SDK4.4.0）

一、测试环境 SDK版本：4.4.0 GPU型号：MR100、天垓150、天垓150s 模型所需最低GPU数量：2张MR100、1张天垓150、1张天垓150s CPU架构：X86_64 。 二、创建容器 1. 获取镜像 docker pull registry.iluvatar.com.cn:10443/customer/sz/vll...

2026-06-12 18:23     來源: 操作指导     0 20 0
MR100+GLM-4.7-Flash-w4a8模型部署（SDK4.4.0）

一、测试条件 sdk4.4版、X86环境、MR100卡 。 镜像下载 。 离线下载 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn   访问密码请联系天数售后 。 get /client_tmp/support/4.4/vllm0.17.0-4.4...

GLM-4.7-Flash w4a8
2026-06-12 10:36     來源: 操作指导     0 348 0
GLM-4.5-Air-w4a8（x86_SDK4.4.0）

GLM-4.5-Air-w4a8模型部署（SDK4.4.0） 。 。 一、测试环境 SDK版本：4.4.0 GPU型号：MR100 CPU架构：x86_64 模型所需最低GPU数量：4 二、创建容器 1. 获取镜像 。 docker pull registry.iluvatar.com.cn:10443/customer/sz/vllm...

2026-06-12 08:29     來源: 操作指导     0 17 0
专 mr100_bi150+x86容器上运行hy3（SDK4.4.0)

一、测试环境 SDK版本：4.4.0 GPU型号：MR100、BI150、BI150s 模型所需最低GPU数量：4卡BI150、8卡MR100 CPU架构：X86_64 Docker镜像：registry.iluvatar.com.cn:10443/customer/sz/vllm0.17.0-4.4.0-x86:v6 。 二、创建容器...

2026-06-11 11:18     來源: 操作指导     0 66 0
专 Qwen3.6 (mtp开启）模型部署（SDK4.4.0）

一、测试环境 SDK版本：4.4.0 GPU型号：MR100、BI150、BI150s 模型所需最低GPU数量：2 CPU架构：X86_64 Docker镜像：registry.iluvatar.com.cn:10443/customer/sz/vllm0.17.0-4.4.0-x86:v6 。 二、创建容器 1. 获取镜像 离线环境通...

2026-06-11 10:09     來源: Qwen3.6     0 355 0
专 mr100_bi150+x86通过sglang运行qwen3-32B模型（SDK4.4.0)

一、测试环境 SDK版本：4.4.0 GPU型号：MR100、BI150、BI150s 模型所需最低GPU数量：4卡BI150、8卡MR100 CPU架构：X86_64 Docker镜像：corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容...

2026-06-10 17:07     來源: 操作指导     0 26 0
GLM-4.5-Air（x86_SDK4.4.0）

GLM-4.5-Air模型部署（SDK4.4.0） 。 。 一、测试环境 SDK版本：4.4.0 GPU型号：MR100 CPU架构：x86_64 模型所需最低GPU数量：16 二、创建容器 1. 获取镜像 docker pull registry.iluvatar.com.cn:10443/customer/sz/vllm0...

2026-06-10 16:54     來源: 操作指导     0 19 0
专 DeepSeek OCR模型部署（SDK4.4.0）

一、测试环境 SDK版本：4.4.0 GPU型号：MR100 模型所需最低GPU数量：2 CPU架构：X86_64 。 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件： 。 docker pull harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-x86-ubunt...

2026-06-10 16:49     來源: DeepSeek     0 83 0
LLamafactory+Qwen2.5-7B-Instruct训练微调（SDK4.4.0+x86）

环境准备 安装好SDK4.4.0，安装好docker 。 下载镜像 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn，密码联系售后获取 。 get /client_tmp/support/llamafactory/llamafactory_v3.tar.gz ./ 。 创建容器 gu...

2026-06-10 11:35     來源: 操作指导     0 204 0
k8s+vGPU虚拟化平台部署(SDK4.4.0、x86、ARM)

概述 本文提供单机部署k8s系统，旨在指导用户在k8s集群导入GPU虚拟化（iluvatar VGPU）插件。天数智芯VGPU方案是针对天数智芯加速卡实现的基于Kubernetes(K8s) 集群系统的GPU虚拟化方案，部署此方案后可以实现多用户同时使用天数智芯加速卡。该方案GPU算力的最小颗粒度为一张天数智芯加速卡的1%，显存的最小颗...

VGPU 虚拟化 k8s
2026-06-09 16:59     來源: 操作指导     0 47 0
专 MiniMax-M2.5-w4a8 模型部署（SDK 4.4.0）

一、测试条件 sdk4.4版、X86环境、MR100卡、基础镜像corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容器 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn  （访问密码请联...

2026-06-09 13:21     來源: 操作指导     1 353 0
ixstream测试用例介绍

ixstream测试用例介绍 。 测试环境 SDK版本：4.3.0,，4.3.8，4.4.0 GPU型号：MR100 CPU架构：x86_64，arm 模型所需最低GPU数量：1 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件： 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar....

2026-06-09 11:26     來源: 操作指导     2 52 0
天数智芯知识库系统 -V 5.2.7 -wcp