OpenAI与Broadcom合作部署10吉瓦的AI硬件
博通公司宣布与 OpenAI 建立为期四年的基础设施合作伙伴关系后,其股价今天上涨超过 9%。
该计划将使 ChatGPT 开发人员在未来四年内部署价值 10 吉瓦的数据中心硬件。据 OpenAI 称,该基础设施将由与博通共同开发的定制人工智能处理器提供支持。在今天发布的播客中,OpenAI 总裁格雷格·布罗克曼 (Greg Brockman) 表示,这家人工智能提供商使用自己的神经网络来设计芯片。
“我们已经能够大幅减少面积,”布罗克曼详细说明。“你采用人类已经优化的组件,只需将计算投入其中,模型就会提出自己的优化。”
现成的显卡面向广泛的客户,这意味着对某些用户来说重要的模块不会被其他用户所需要。构建定制处理器可以删除不需要的模块,从而节省功耗和空间。该功率和空间可以重新分配给针对公司工作负载优化的电路。
OpenAI 计划将其定制处理器部署在同样基于内部设计的机架中。这些系统将配备博通的 PCIe 和以太网网络设备。PCIe 主要用于将内部服务器组件连接在一起,而以太网则用于将服务器相互连接。
博通上周三推出了一款新的人工智能优化以太网交换机 TH6-Davisson。它每秒可以处理 102.4 太比特的流量,该公司表示这是最接近的竞争对手吞吐量的两倍。TH6-Davisson 用于通过网络传输数据的激光发射器基于可现场更换的设计,旨在简化维护。
通常,以太网交换机与称为可插拔收发器的设备一起部署。这些设备负责将电子数据转换为可以通过光纤网络传输的光,反之亦然。TH6-Davisson 具有内置收发器,无需外部光模块,从而降低了成本。
OpenAI 没有具体说明将使用博通的哪些 PCIe 产品作为合作伙伴关系的一部分。该芯片制造商销售一系列称为 PEX 系列的 PCIe 交换机。它还制造重定时器,这些模块可防止错误在数据通过 PCIe 链路传输时进入数据。
“OpenAI 和 Broadcom 在过去 18 个月里一直在合作,”OpenAI 首席执行官 Sam Altman 今天在播客上表示。“通过能够对整个堆栈进行优化,我们可以获得巨大的效率提升,这将带来更好的性能、更快的模型、更便宜的模型。”
OpenAI 和博通计划在 2026 年下半年部署通过合作开发的第一批数据中心机架。据这家芯片制造商称,其余系统将在 2029 年之前上线。这些电器的预期功耗为 10 吉瓦,相当于数百万家庭的能源使用量。
博通和OpenAI没有具体说明该项目的预期价格。8月,英伟达首席执行官黄仁勋表示,1吉瓦的AI数据中心容量成本为500亿至600亿美元。他补充说,这笔款项的大部分都流向了英伟达硬件,这表明博通将从其新的 OpenAI 合作伙伴关系中产生数十亿美元的收入。
关键词: OpenAI Broadcom 10吉瓦 AI硬件

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW
或用微信扫描左侧二维码