配备10万个 H100 GPU,马斯克宣布“全球最大 AI 训练集群”投入使用
7 月 23 日消息,马斯克现宣布,孟菲斯超级计算机集群(Memphis Supercluster)于当地时间凌晨 4:20 开始进行训练,感谢 xAI 团队、X 团队、英伟达及其支持公司所做的贡献。 该集群配备了 10 万个英伟达 H100 GPU,采用液冷散热,并使用单一的 RDMA 网络互连架构,是全世界最强大的 AI 训练集群。 从 GPU 规模上来看,这一集群已经全面超越了最新
GPU
芯查查资讯 . 2024-07-23 2 12 2395
大摩分析师:数个地区及客户对NVIDIA H100的需求依旧远高于供给
此前有消息称微软下修NVIDIA H100订单,但摩根士丹利分析师Joseph Moore发表报告指出,有关微软下修明年H100 GPU需求的传言过于夸大。 最近调查显示,数个地区、客户对于H100 GPU的需求依旧远高于供给。根据供应链调查,微软正在争取的产品比他们目前取得的还多,因此短期内其需求不太可能突然崩跌。
快讯
芯闻路1号 . 2023-09-26 2460
供应链透露戴尔今年AI服务器备货量上看2万台
据台湾经济日报,供应链透露的戴尔最新AI服务器物料清单(BOM表)与备货计划,戴尔今年AI服务器备货量上看2万台,明年会再拉高。戴尔强攻AI服务器,大量扫货NVIDIA H100芯片之余,也释出大量代工与零组件订单,今年订单总金额预估高达千亿元,明年可望再翻倍至2000亿元以上。
快讯
芯闻路1号 . 2023-08-21 1 2115
AI服务器受限CoWoS封装“有单出不了货”,H100预计8月后产量有望放大
尽管台积电现有CoWoS产线全开,下半年产能逐月拉升,依旧满足不了NVIDIAH100强劲需求。据相关供应链表示,NVIDIAAI GPU平台服务器需求飙升,但近期包括广达/云达、纬创/纬颖、技嘉旗下技钢、华硕与超微电脑等,却“有单出不了货”。据了解,随着台积电赶工挤出CoWoS产能,预计H100在8月后产量有望放大。
快讯
芯闻路1号 . 2023-08-11 2015
- 1