产品介绍
DeepSeek/Qwen通义千问-AI大模型国产显卡信创GPU一体机集服务器、AI管理系统、高效能基础模型、全流程AI工具链于一体的开箱即用的AI解决方案。适用于科研院所、教育、政府、企业等用户,有一定私域专有知识,希望快速构建AI能力赋能文字处理、数据分析、科学研究等繁重业务,专为云端AI训练和推理设计,主要面向AI大规模深度学习场景。
通过持续的架构创新和工艺迭代,已覆盖从训练到推理、从边缘到云端的产品矩阵,其国产化率的提升和生态体系,为AI算力自主可控提供重要支撑。
适用于智慧城市、智慧医疗、天文探索、石油勘探、预测天气、自动驾驶等需要大AI算力的领域,有一定私域专有知识应用于深度学习模型开发和训练,可以更快的进行视频、图像、语音、文字的AI模型训练和科学研究。
DeepSeek/Qwen-AI大模型国产显卡信创GPU服务器产品优势:
适配DeepSeek、Qwen通义千问、Llama等主流开源大模型;能够支持国内外主流软硬件生态和各种深度学习框架、算法模型和加速库。
兼容CUDA生态,支持市场主流生态,生态应用迁移迅速;支持FP32、FP16、INT8等多精度推理混合计算。
私有数据不出域,在保障数据安全的同时构建业务智能体,解决敏感数据无法上云的痛点;
支持DeepSeek全系列满血版模型的训练推理,显著提升性能并降低部署成本。
DeepSeek/Qwen-AI大模型国产显卡信创GPU服务器配置:
旗舰版:DeepSeek- 671B 满血版/Qwen、Llama等
处理器:2*海光7390/7490
国产GPU显卡:64G*8
内存:64GB*16
硬盘:480G SSD *4+3.84T NVMe*4
网络:配置RDMA网卡或IB网卡
?支持满血版671B模型及蒸馏模型(需部署两台)
?大并发、性能强
?可灵活扩展,支持大型企业规模化应用
高配版:DeepSeek- 70B/Qwen、Llama等
处理器:2*海光7380/7480
国产GPU显卡:32G*8
内存:64GB*16
硬盘:480G SSD *2+3.84T NVMe*2
网络:以太网/RDMA网卡
?支持精度FP16的70B模型及蒸馏模型
?低成本、私有化部署
?满足客户体验、小规模使用需求
标准版:DeepSeek- 32B/Qwen、Llama等
处理器:2*海光7380/7480
国产GPU显卡:32G*4
内存:32GB*8
硬盘:480G SSD*2+3.84T NVMe*2
网络:以太网
边缘版:DeepSeek-14B/Qwen、Llama等
处理器:X86处理器
国产GPU显卡:32G*2
内存:32GB*4 DDR4
硬盘:按需
网络:以太网
? 支持中小参数蒸馏模型
? 低门槛上车,轻量化应用
软件环境:
? 推理框架:VLLm
? 操作系统:Ubuntu、国产系统