GLM-4.5-Air模型部署(SDK4.4.0) 。 。 一、测试环境 SDK版本:4.4.0 GPU型号:MR100 CPU架构:x86_64 模型所需最低GPU数量:16 二、创建容器 1. 获取镜像 docker pull registry.iluvatar.com.cn:10443/customer/sz/vllm0...
一、测试环境 SDK版本:4.4.0 GPU型号:MR100 模型所需最低GPU数量:2 CPU架构:X86_64 。 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件: 。 docker pull harbor.iluvatar.com.cn:10443/saas/mr-bi150-4.4.0-x86-ubunt...
环境准备 安装好SDK4.4.0,安装好docker 。 下载镜像 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn,密码联系售后获取 。 get /client_tmp/support/llamafactory/llamafactory_v3.tar.gz ./ 。 创建容器 gu...
一、测试条件 sdk4.4版、X86环境、MR100卡、基础镜像corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容器 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn (访问密码请联...
ixstream测试用例介绍 。 测试环境 SDK版本:4.3.0,,4.3.8,4.4.0 GPU型号:MR100 CPU架构:x86_64,arm 模型所需最低GPU数量:1 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件: 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar....
前提: 大模型已部署完成 。 1 克隆 Dify 源代码至本地环境 # 假设当前最新版本为 0.15.3 。 cd /home 。 git clone https://github.com/langgenius/dify.git --branch 0.15.3 。 2 安装docker-compose apt-get install d...
一、测试条件 sdk4.4版、X86环境 、MR100卡、基础镜像corex-docker-installer-4.4.0-10.2-ubuntu20.04-llm-py3.10-x86_64.run 。 二、创建容器 1、获取镜像 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn...
mineru-2.7.1模型部署(SDK4.3.6) 。 。 一、测试环境 SDK版本:4.3.6 GPU型号:MR100 CPU架构:arm 模型所需最低GPU数量:1 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件: 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com....
环境准备 系统已经安装好SDK4.4.0+docker环境 。 镜像获取 。 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 访问密码请咨询天数售后 。 get /SDK_4.4.0/x86/sdk/corex-docker-installe...
一、测试环境 SDK版本:4.4.0 GPU型号:MR100 CPU架构:x86 模型所需最低GPU数量:1 二、创建容器 1. 获取镜像 通过SFTP从指定服务器下载基础镜像文件: 。 sftp -P 29880 iluvatar_mr@iftp.iluvatar.com.cn 密码:请咨询天数售后 get /client_tmp/s...