OpenMetal推出H200与RTX PRO 6000独立GPU服务器,采用单租户月付模式
美国基础设施服务商OpenMetal近日扩展其v5硬件产品线,推出两类面向AI和高性能计算的独立GPU服务器。
新产品包括搭载NVIDIA RTX PRO 6000 Blackwell Server Edition的RP6000服务器,以及搭载NVIDIA H200 NVL的H200服务器。两类产品均采用单租户裸金属部署,不通过共享虚拟机切分GPU资源。
标准配置最高支持2TB内存
OpenMetal公布的信息显示,新GPU服务器采用双路Intel Xeon 6530P处理器,标准配置为1TB DDR5-6400内存,并可扩展到2TB。
服务器还提供PCIe 5.0、NVMe存储和40Gbps私有网络,可独立运行,也可以通过私有网络组建多节点GPU集群。
这类配置不仅面向模型推理,也适合需要较大CPU内存和高速数据交换的模型训练、科学计算、渲染及数据分析任务。
RP6000与H200定位不同
RP6000服务器支持安装一张或两张RTX PRO 6000 Blackwell Server Edition GPU。
每张GPU配备96GB GDDR7显存,主要面向AI推理、模型微调、三维渲染以及AI与可视化混合业务。
H200服务器则支持一张或两张NVIDIA H200 NVL GPU。每张GPU提供141GB HBM3e显存和更高的内存带宽,更适合大模型训练、显存需求较高的推理任务以及内存带宽敏感型工作负载。
两者并不是简单的高低配置关系。RTX PRO 6000更强调成本、显存和通用性平衡,H200则更适合大模型和高带宽计算。
独立GPU服务器与共享GPU实例的区别
共享GPU实例可以降低短期使用门槛,适合开发测试和临时任务。但在虚拟化环境中,客户通常无法完全控制底层硬件,性能也可能受到平台调度方式影响。
独立GPU服务器由单个客户使用整台物理设备,CPU、内存、硬盘和GPU资源相对固定,更适合需要长期运行、稳定性能和私有网络的业务。
OpenMetal此次采用固定月付方式,也是希望降低按小时计费造成的成本不确定性。相关服务器已在美国弗吉尼亚州Ashburn数据中心提供,后续还计划扩展到更多地区。