卸载原来SDK (如果有,就需要执行,没有跳过这步) rmmod iluvatar 。 sudo /usr/local/corex/bin/corex-driver-uninstaller 。 sudo /usr/local/corex/bin/corex-uninstaller 。 ls -l /usr/local/corex* 。 ...
一、测试环境 SDK版本:4.4.0 GPU型号:MR100 模型所需最低GPU数量:4 CPU架构:X86_64 。 二、创建容器 1. 获取镜像 docker pull registry.iluvatar.com.cn:10443/customer/sz/vllm0.17.0-4.4.0-x86:v6 。 2. 创建容器 使用以下命...
一、测试条件 sdk4.4版、X86环境、MR100卡 。 镜像下载 。 离线下载 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 访问密码请联系天数售后 。 get /client_tmp/support/4.4/vllm0.17.0-4.4...