驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户  sudo su - 。 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar  kylin: 。 yum...

驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户  sudo su  安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum i...

驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户  sudo su - 。 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum ins...

驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户  sudo su - 。 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum ins...

驱动安装前准备 检查GPU卡的带宽 。 lspci -vvv | grep -A 25 1e3e | grep -E "1e3e|LnkSta|Memory" 。 输出结果的LnkSta行， Speed 和 Width 后面均应为(ok) 。 。 运行权限 。 建议切换到root用户  sudo su 。 必须的依赖包 。 g...

驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户  sudo su  安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum i...

一、测试环境 SDK版本：4.4.0 GPU型号：BI150 模型所需最低GPU数量：8卡BI150 CPU架构：X86_64 Docker镜像：registry.iluvatar.com.cn:10443/customer/sz/vllm0.23.0-4.4.0-x86:v1 。 二、创建容器 1. 获取镜像 在线拉取镜像： 。 do...

一、测试环境 SDK版本：4.4.0 GPU型号：MR100、BI150、BI150s 模型所需最低GPU数量：4卡BI150、8卡MR100 CPU架构：X86_64 Docker镜像：registry.iluvatar.com.cn:10443/customer/sz/vllm0.17.0-4.4.0-x86:v6 。 二、创建容器...

一、测试环境 SDK版本：4.4.0 GPU型号：MR100 模型所需最低GPU数量：1卡 CPU架构：X86_64 Docker镜像：registry.iluvatar.com.cn:10443/customer/sz/vllm0.17.0-4.4.0-x86:v7 。 二、创建容器 1. 获取镜像 离线环境通过SFTP从指定服务器下...

一、测试环境 SDK版本：4.4.0 GPU型号：MR100、BI150、BI150s 模型所需最低GPU数量：2 CPU架构：X86_64 Docker镜像：registry.iluvatar.com.cn:10443/customer/sz/vllm0.17.0-4.4.0-x86:v7.1 。 二、创建容器 1. 获取镜像 在线拉...