OpenAI联手博通和台积电,打造首款AI芯片

来源: 芯查查资讯 2024-10-30 16:26:30

OpenAI正与博通(Broadcom)和台积电(TSMC)合作,打造其首款内部设计的AI推理芯片,以支持其人工智能系统。同时,为了满足基础设施需求的激增,OpenAI还增加了AMD芯片,与Nvidia芯片一同使用。这一消息由路透社独家披露。

 

OpenAI,作为ChatGPT背后的公司,一直在探索多种选项来实现芯片供应的多元化和降低成本。该公司曾考虑过建立自己的工厂网络,即所谓的“代工厂”,但由于成本和时间的考虑,目前暂时放弃了这一雄心勃勃的计划,转而专注于内部芯片设计工作。

  

这一策略首次详细披露,显示了这家硅谷初创公司是如何利用行业合作伙伴关系以及内部和外部方法的混合来确保芯片供应并管理成本,与亚马逊、Meta、谷歌和微软等大型竞争对手一样。作为芯片的最大买家之一,OpenAI决定从多样化的芯片制造商那里采购芯片,同时开发自己的定制芯片,这可能会对更广泛的科技行业产生影响。

  

博通股价在报告发布后上涨,周二交易结束时上涨超过4.5%。AMD股价也从早盘的涨幅中受益,当天结束时上涨3.7%。

  

OpenAI、AMD和TSMC拒绝置评。博通没有立即回应置评请求。

  

OpenAI依赖大量的计算能力来训练和运行其系统。作为Nvidia图形处理单元(GPU)的最大购买者之一,OpenAI使用AI芯片进行模型训练,以及用于推理,即应用AI根据新信息做出预测或决策。

  

路透社此前曾报道过OpenAI的芯片设计努力。《信息报》报道了与博通等公司的谈判。

  

据消息人士透露,OpenAI已经与博通合作数月,打造其首款专注于推理的AI芯片。目前,对训练芯片的需求更大,但分析师预测,随着更多AI应用的部署,对推理芯片的需求可能会超过它们。

  

博通帮助包括Alphabet旗下的谷歌在内的公司微调芯片设计以进行制造,并提供有助于快速在芯片上传输信息的设计部分。这在AI系统中非常重要,因为数以万计的芯片被串联在一起协同工作。

  

消息人士称,OpenAI仍在决定是否为其芯片设计开发或获取其他元素,并可能会吸引更多的合作伙伴。

  

该公司已经组建了一个由20人组成的芯片团队,由曾在谷歌构建张量处理单元(TPUs)的顶尖工程师领导,包括Thomas Norrie和Richard Ho。

消息人士表示,通过博通,OpenAI已经与台湾半导体制造公司(TSMC)达成了制造其首款定制芯片的协议,计划在2026年制造。他们表示,时间表可能会改变。

  

目前,Nvidia的GPU市场份额超过80%。但短缺和成本上升导致包括微软、Meta和现在的OpenAI在内的主要客户探索内部或外部替代方案。

  

OpenAI计划通过微软的Azure使用AMD芯片,这一消息首次在这里报道,显示了AMD的新MI300X芯片如何试图在Nvidia主导的市场中分得一杯羹。AMD预计2024年AI芯片销售额将达到45亿美元,继2023年第四季度芯片发布之后。

  

训练AI模型和运营服务如ChatGPT成本昂贵。消息人士称,OpenAI预计今年将亏损50亿美元,收入为37亿美元。计算成本,或处理大型数据集和开发模型所需的硬件、电力和云服务的支出,是公司最大的支出,促使其努力优化利用和多样化供应商。

  

消息人士补充说,OpenAI一直谨慎避免从Nvidia挖角人才,因为它希望保持与这家芯片制造商的良好关系,特别是为了获取其新一代Blackwell芯片。

  

Nvidia拒绝置评。

0
收藏
0