Rackspace与Together AI合作,拟部署GB300专用推理集群
2026年11月10日,Rackspace宣布与Together AI达成多年期基础设施协议,拟部署专用NVIDIA GB300 NVL72系统支持企业AI推理。
基础设施运营与推理平台分工合作
公告显示,Rackspace拟负责硬件和配套设施运营,Together AI拟提供托管云平台。双方还计划探索联合市场机会,相关意向书具有非约束性。
2027年部署计划仍有前置条件
部署目标为2027年。截至公告发布时,GPU系统采购尚未取得确定融资承诺,项目仍受融资及其他协议条件约束。
企业推理服务可以怎样验证
SellBGP分析,评估专用GPU云服务时,可以先固定模型、输入长度、输出长度和并发条件,记录首个结果返回时间、完整请求耗时与错误率。保持测试条件一致,才能比较不同方案对业务的影响。
例如,计划部署知识库问答的团队,可以使用具有代表性的文档和问题,分别运行稳定流量与突发流量测试。除生成速度外,还应观察检索等待、数据加载和超时重试,将完整请求过程纳入验收。
供应商与平台方共同交付的方案,还适合明确故障处理入口:由谁接收告警、谁负责初步定位,以及客户通过什么渠道跟踪进度。这些安排可以在试运行阶段验证,形成正式上线后的服务依据。
专用GPU云租赁需要核对哪些交付边界
SellBGP分析,专用算力采购可以拆成三个阶段评估:资源准备、集群验收和业务上线。硬件到场后,网络连通、存储性能和推理平台稳定性仍需要共同验证。如果计划租用香港服务器部署推理业务,验收时还可以从主要用户所在地区发起请求,测量端到端响应时间。
企业在比较GPU服务器租赁或托管方案时,可以围绕验收标准形成明确问题:承诺的容量何时可用,性能测试采用什么模型与并发条件,发生故障后的处理时限如何约定,以及平台迁移时能否导出必要的数据和配置。
这些条款直接影响算力投入转化为可用业务的过程,也有助于解释不同方案之间的报价差异。
SellBGP认为,这次合作体现了企业推理服务对持续运营能力的需求。GPU型号决定部分计算能力,网络、散热、存储和平台支持则共同决定集群能否稳定承担生产流量。
对准备预订新一代GPU云服务器的客户,较稳妥的做法是围绕可验收的容量安排业务上线,将付款节点、资源交付与性能验证相衔接。供应商公布的扩张计划可以作为采购线索,最终预算应建立在明确的服务范围和交付条件之上。
声明:本文由SellBGP编辑部依据公开渠道信息独立撰写,转载请注明出处。