驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户 sudo su - 。 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar kylin: 。 yum...
驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户 sudo su 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum i...
驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户 sudo su - 。 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum ins...
驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户 sudo su - 。 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum ins...
驱动安装前准备 检查GPU卡的带宽 。 lspci -vvv | grep -A 25 1e3e | grep -E "1e3e|LnkSta|Memory" 。 输出结果的LnkSta行， Speed 和 Width 后面均应为(ok) 。 。 运行权限 。 建议切换到root用户 sudo su 。 必须的依赖包 。 g...
驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户 sudo su 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum i...
一、测试环境 SDK版本：4.4.0 GPU型号：MR100、天垓150、天垓150s 模型所需最低GPU数量：2张MR100、1张天垓150、1张天垓150s CPU架构：X86_64 。 二、创建容器 1. 获取镜像 docker pull registry.iluvatar.com.cn:10443/customer/sz/vll...
一、测试条件 sdk4.4版、X86环境、MR100卡 。 镜像下载 。 离线下载 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 访问密码请联系天数售后 。 get /client_tmp/support/4.4/vllm0.17.0-4.4...
GLM-4.5-Air-w4a8模型部署（SDK4.4.0） 。 。 一、测试环境 SDK版本：4.4.0 GPU型号：MR100 CPU架构：x86_64 模型所需最低GPU数量：4 二、创建容器 1. 获取镜像 。 docker pull registry.iluvatar.com.cn:10443/customer/sz/vllm...
一、测试环境 SDK版本：4.4.0 GPU型号：MR100、BI150、BI150s 模型所需最低GPU数量：4卡BI150、8卡MR100 CPU架构：X86_64 Docker镜像：registry.iluvatar.com.cn:10443/customer/sz/vllm0.17.0-4.4.0-x86:v6 。 二、创建容器...
