一、基础环境 操作系统：OpenEuler  镜像：BI-V150/MR-V50/MR-V100-4.3.0-x86-Ubuntu20.04-Python3.10-poc-Pytorch-llm-infer-V1.2.3 。 高速网络：ROCE 。 二、基础环境检查 1、网卡是否正常 。 lspci | grep -i eth...

ROCE BI150 联机

一、测试环境 SDK版本：4.4.0 GPU型号：BI150 CPU架构：arm 模型所需最低GPU数量：2 二、创建容器 1. 获取镜像 密码 联系天数售后工程师 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn  get /client_tmp/support/4.4/vll...

一、测试环境 SDK版本：4.4.0 GPU型号：BI150 CPU架构：arm 模型所需最低GPU数量：4 二、创建容器 1. 获取镜像 密码 联系天数售后工程师 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn  get /client_tmp/support/4.4/vll...

一、测试环境 SDK版本：4.4.0 （龙芯版本） GPU型号：BI150 CPU架构：龙芯 模型所需最低GPU数量：8 二、创建容器 1. 获取镜像 使用docker pull进行镜像拉取 docker pull registry.iluvatar.com.cn:10443/loongson/6000_mr4.4.0:v1.2_051...

一、测试环境 SDK版本：4.4.0 GPU型号：BI150 CPU架构：arm 模型所需最低GPU数量：1 二、创建容器 1. 获取镜像 密码 联系天数售后工程师 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn  get /client_tmp/support/4.4/vll...

前提已安装4.4.0驱动  如未安装SDK，请参考如下指南： 。 https://ixkb.iluvatar.com.cn:9443/webdoc/view/Pub8a16948a9a4cb023019cad9168850f71.html （mr系列） 。 或者 。 https://ixkb.iluvatar.com.cn:9...

一、测试条件 SDK版本：4.4.0 GPU型号：bi150 模型所需最低GPU数量：8 CPU架构：arm 二、创建容器 1、获取镜像 docker pull harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-aarch64-ubuntu20.04-py3.10-poc-llm-infe...

前期准备  确保宿主机已安装SDK4.3.0和docker 。 bi150和bi150s卡参考这个文档进行sdk4.3.0部署 。 bi150_bi150s+x86升级SDK到4.3.0-天数智芯知识库系统 。 下载DeepSeek模型权重 apt-get install git-lfs 或者yum install git-l...

下载4.4.0 docker base镜像包 通过SFTP下载: 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn  。 get /SDK_4.4.0/x86/sdk/corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-p...

一、测试前准备工作 1.下载镜像 通过SFTP下载，SFTP下载地址和密码，请联系天数售后工程师获取 。 。 get /client_tmp/support/mr-bi150-4.2.0-x86-ubuntu20.04-py3.10-customer-ds-671b-v1.3.tar 。 2.下载模型 apt-get install g...