描述
SCTX1000-V308-SS01大模型训推一体服务器是Z6尊龙基于国产加速卡开发的一款高规格自主可控训推一体服务器,,产品搭载国产CPU、、、、加速卡和异构解耦合设计,,,,架构可灵活调整,,,是PCle扩展密度最高的深度学习训练推理平台。。。。

大模型训推一体服务器
SCT X1000-V308-SS01
描述
本产品配备的加速卡是基于国产AI芯片研发设计生产,,具有高稳定性、、、低功耗、、、强算力等特点,,,是面向云端AI应用的算力加速卡。。。。高效适配市场上主流AI算法框架。。。
描述
产品特点
描述
强劲算力
支持8个GPU加速卡 1232T OPS / 1024T FLOPS FP16/BF16算力

描述
超高性能
支持2颗国产CPU 处理器,,,,最高支持 64物理核心
描述
快速移植
支持Caffe/TensorFlow/PyTorch/ MXNet/PaddlePaddle/ONNX/Darknet等主流深度学习框架
描述
主动散热
风扇散热,,5℃至+35℃宽温
描述
描述
大模型适配

高效适配如ChatGLM,,,,LLaMA,,,,Falcon等各种大模型算法;支持Al绘图,,,,SD V1.5,,,SDXL;支持各种图像分类、、、检测网络,,,,如Resnet50、、Yolo系列;如各种自然语言处理网络,,,如BERT系列;各种语音网络,,如Tacotron2。。

描述
提供强大的开发库

提供强大的开发库(BMCV、、FFMPEG编解码接口、、、、OPENCV编解码接口、、、、OPENCV扩展);支持Docker容器化、、Kubernetes扩展管理。。。
支持智慧园区/安防/工控/商业等
多领域多场景灵活部署
描述
高可靠性

支持冗余电源互为备份,,,,运行稳定,, 质量可靠

描述
支持常见各类内外接口,,,适应各类布署场景

灵活部署

  • 强劲算力
    搭载8张国产推理加速卡,,,单卡拥有154TOPSINT8峰值算力和76.8TFLOPS FP16/BF16峰值算力,,,满足大模型应用需求。。。。 2颗国产CPU处理器,,,64个核心,,提高VDI实例数量。。 内存容量高达4T,,可进行强大的数据库分析,,加速内存密集型应用性能。。。。 支持100G\200G网络高速互联,,,为计算集群提供高密度、、、高性能节点平台。。
  • 大模型适配与完整生态
    高效适配如ChatGLM,,LLaMA,,,Falcon等各种大模型算法;支持AI绘图,,SDV1.5,,,SDXL;支持各种图像分类、、、、检测网络,,,如Resnet50、、、Yolo系列;如各种自然语言处理网络,,,,如BERT系列;各种语音网络,,,,如Tacotron2。。 支持TensorFlow、、、、PyTorch、、ONNX、、、、PaddlePaddle、、、、Caffe等各种深度学习框架模型;内建150+算子实现以及用户自定义算子;支持动态张量尺寸;支持控制流网络;支持用户量化模型导入;支持自动量化策略搜索;支持编译时即时数据校验。。 提供强大的开发库(BMCV、、FFMPEG编解码接口、、、OPENCV编解码接口、、、OPENCV扩展);支持Docker容器化、、、Kubernetes扩展管理。。。。
  • 极致扩展
    扩展12个PCle4.0x16插槽,,,整机通信带宽翻倍。。。。 4U空间可容纳8个双宽加速卡,,,,提供强大的训练和推理应用性能。。 支持24个3.5寸SAS/SATA硬盘,,,,最高支持16个NVMeSSD,提供丰富的存储扩展能力。。
应用场景
开发资料
易用便捷,,,,全栈高效
SOPHON SDK一站式工具包,,,,提供底层驱动环境、、、编译器、、、、推理部署工具等一系列软件工具。。易用便捷,,涵盖了神经网络推理阶段所需的模型优化、、、高效运行时支持等能力,,为深度学习应用开发和部署提供易用、、、高效的全栈式解决方案。。。SOPHON SDK,,最大程度降低算法和软件的开发周期和成本,,,使用者能快速在算丰各系列深度学习硬件产品上部署深度学习算法,,,便捷实现智能应用。。
 SDK 
规格参数
工作温度
工作湿度
5℃~35℃(50℉~95℉)
工作80%RH,,,非工作93%RH
GPU
最高支持 8个GPU加速卡、、、、提供强大的训练和推理应用性能
支持加速卡的任意搭配:国产推理卡,,,,单卡 154 TOPSINT8 算力;国产训练卡,,单卡 128 TFLOPS 半精浮点算力
内存
提供32个DDR4内存插槽,,,支持RDIMM内存,,最高工作频率3200MHz
网络
支持1G/10G/25G/40G/100G/200G等多种网络
PCIe扩展
最大可扩展12个PCle4.0x16插槽
1个OCP3.0网卡插槽
专用双RAID卡插槽
存储控制器
板载SATA硬盘控制器
SAS卡控制器,,,支持RAID0/1/10
RAID卡控制器,,,支持RAID0/1/5/6/10/50/60
支持Cache超级电容保护,,,,提供RAID状态迁移、、RAID配置记忆等功能
存储方案
前置:24x2.5”或24x3.5”SAS/SATA或最高支持16x2.5”NVMeU.2SSD
内置:支持2个板载M.2SSD
其他端口
2个VGA接口,,,1个位于机箱后部,,,1个位于机箱前部
4个USB接口,,2个位于机箱后部、、、2个位于机箱前部
1个RJ-45管理接口位于机箱
电源
支持3+1或2+2冗余,,,支持1600W/2000W/2200WCRPS高效电源
散热
8个系统风扇模组,,,,支持N+1冗余
管理功能
集成BMC芯片,,,,对外提供1个1GbpsRJ45管理口,,,支持IPM12.0、、、、Redfish、、、SNMP等标准接口
基于IKVM/HTML5的远程管理界面,,,提供全面的故障诊断、、、、自动化运维和远程管理的功能
显示
集成显示控制器,,,最大分辨率1920x1080
支持操作系统
Microsoft Windows Server、、 Red Hat Enterprise Linux、、 SUSE Linux Enterprise Server、、 CentOS、、、 Vmware ESXi、、 Ubuntu,国产麒麟UOS等服务器操作系统
产品认证
通过CCC等认证
电源电压
100-240Vac
机箱
4U机架式服务器机箱
机箱尺寸
重量
175.8mm(高)x432mm(宽)x798mm(深)
最大76千克,,,具体请查询重量计算表
CPU
支持2颗国产CPU 处理器,,最高支持 64 物理核心
产品文档
TOP
站点地图