前提 本文提供单机部署k8s系统,旨在指导用户在k8s集群导入 ix-device-plugin 插件。 一.配置系统 1、禁用swap 。 swapoff -a #临时 。 sed-ri's/.*swap.*/#&/' /etc/fstab #永久 。 需要删除 /etc/fstab 包含swap的那行...
一、测试条件 sdk4.4版、X86环境、MR100卡、基础镜像corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容器 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 密码请咨询天数...
一、测试环境 SDK版本:4.4.0 GPU型号:BI150 CPU架构:x86_64 模型所需最低GPU数量:4 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件: 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 密码:请咨询天数售后 。 get /client_...
一、测试环境 SDK版本:4.4.0 GPU型号:MR100 CPU架构:x86_64 模型所需最低GPU数量:1 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件: 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 密码:请咨询天数售后 get /SDK_4.4.0...
Qwen3-VL-30B-A3B-Instruct模型部署+Mathvista数据集测试(SDK4.4.0 + X86) 。 。 一、测试环境 SDK版本:4.4.0 GPU型号:MR100 CPU架构:x86_64 模型所需最低GPU数量:4 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件: 。 sftp -P...
ixstream安装(SDK4.4.0 + X86) 。 。 一、测试环境 SDK版本:4.4.0 GPU型号:MR100 CPU架构:x86_64 模型所需最低GPU数量:1 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件: 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.c...
前期准备 确保宿主机已安装SDK4.3.0和docker 。 bi150和bi150s卡参考这个文档进行sdk4.3.0部署 。 bi150_bi150s+x86升级SDK到4.3.0-天数智芯知识库系统 。 下载DeepSeek模型权重 apt-get install git-lfs 或者yum install git-l...
Qwen3-8B-GGUF用llamacpp模型部署(SDK4.4.0) 。 。 一、测试环境 SDK版本:4.4.0 GPU型号:BI150S CPU架构:x86_64 模型所需最低GPU数量:1 二、创建容器 1. 获取镜像 docker pull harbor.iluvatar.com.cn:10443/saas/mr-...
一、测试环境 SDK版本:4.4.0 GPU型号:MR100 CPU架构:arm 模型所需最低GPU数量:1 二、创建容器 1. 获取镜像 离线环境通过SFTP从指定服务器下载基础镜像文件: 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn # 密码:请联系天数售后工程师 ge...
环境准备 安装好SDK4.4.0,安装好docker 。 下载镜像 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn,密码联系售后获取 。 get /client_tmp/support/mr-bi150-4.4.0-aarch64-ubuntu20.04-py3.10-poc-llamafa...