驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户  。 sudo su  。 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum install...

驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户  sudo su - 。 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum ins...

驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户  。 sudo su - 。 安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum instal...

驱动安装前准备 检查GPU卡的带宽 。 lspci -vvv | grep -A 25 1e3e | grep -E "1e3e|LnkSta|Memory" 。 输出结果的LnkSta行， Speed 和 Width 后面均应为(ok) 。 。 运行权限 。 建议切换到root用户  sudo su 。 必须的依赖包 。 g...

驱动安装前准备 ubuntu或者kylin系统安装完成后，执行以下步骤： 。 建议切换到root用户  sudo su  安装系统软件包（缺的时候装） 。 ubuntu: 。 apt-get update 。 apt-get install -y make gcc unzip tar 。 kylin: 。 yum i...

卸载原有天数驱动和软件栈 建议用root用户登录操作系统 。 1 检查环境中是否已经安装了天数智算软件栈，可查看目录/usr/local/corex-3.4.0,若存在，请继续下列操作。 。 2. 通过以下⽅式查询天数智芯加速卡占⽤情况，您需要确保天数智芯加速卡处于空闲状态： • 使⽤ ixsmi ⼯具查询天数智芯加速卡进程情况。 。 ...

1 环境准备 corex-docker-installer-4.2.0-10.2-ubuntu20.04-py3.10-x86_64.run 。 https://gitee.com/121786404/corex_deepseek_vllm_test 。 BI150 是单卡双芯，下文中MR100可以认为是BI150的其中一颗芯片 。 2...

确保已安装docker 下载DeepSeek模型权重 。 apt-get install git-lfs 或者yum install git-lfs  。 cd /home/deepseek-ai/ 。 git clone https://www.modelscope.cn/deepseek-ai/DeepSeek-R1-Di...

使用fastchat推理： 。 基于软件栈3.1.1 。 前置条件：驱动、软件栈安装完成，创建miniconda环境安装天数适配过的wheel包。 pip3 install fastchat 或者用（ pip3 install "fschat[model_worker,webui]"） 。 [图片] 。 具体的路径根据版本不同可能稍有变...

卸载原有天数驱动和软件栈 建议用root用户登录操作系统 。 1、检查环境中是否已经安装了天数智算软件栈，可查看目录/usr/local/corex ，若存在，继续下列操作 。 2、通过以下方式查询天数智芯加速卡占用情况，您需要确保天数智芯加速卡处于空闲状态： 。 • 使用 ixsmi 工具查询天数智芯加速卡进程情况。 。 •...