5月15日消息,谷歌在I/O大会上发布了第六代TPU芯片Trillium,并透露能够在明年初用上NVIDIA最新的Blackwell架构GPU。
据介绍,Trillium芯片相较于其前代产品,在算力表现上取得了质的飞跃,实现了高达4.7倍的提升。从今年下半年开始,云用户就能率先体验到这款强大新芯片的卓越性能。
谷歌首席执行官桑达尔・皮查伊(Sundar Pichai)表示新款 TPU 交付之后,每块芯片的计算性能将比第五代提升 4.7 倍。谷歌是通过扩大芯片的矩阵乘法单元(MXU)和提高整体时钟速度来实现这一目标的。此外,谷歌还将 Trillium 芯片的内存带宽提高了一倍。
Trillium 采用了第三代 SparseCore,谷歌将其描述为“在高级排名和推荐工作负载中,处理常见大规模任务的专用加速器 "。该公司认为,这可以让 Trillium TPU 更快地训练模型,并以更低的延迟为模型提供服务。
皮查伊还将新芯片描述为谷歌迄今为止“最节能”的 TPU,这一点在人工智能芯片需求持续成倍增长的情况下尤为重要。“在过去六年中,行业对 ML 计算的需求增长了 100 万倍,大约每年增长 10 倍。如果不投资降低这些芯片的功耗需求,这种情况将难以为继。谷歌承诺,新的 TPU 比第五代芯片节能 67%”。
与此同时,谷歌还展示了自家的AI超级计算机。相较于用户自行购买相同硬件和芯片的方案,谷歌的架构通过优化能够实现效能翻倍的出色表现。
其中,液冷系统功不可没,它在提高系统效能的同时,也确保了运行的稳定性和持久性。目前,谷歌已经部署了达到1GW规模的液冷系统数据中心,并且这一规模还在持续扩大中。
除了新发布的芯片,谷歌还对其“有史以来最强大AI模型”Gemini Advanced进行了更新,加入了新成员Gemini 1.5 Pro。
这款新模型拥有全球消费类聊天机器人中最长的上下文窗口,起始窗口就能处理高达100万个token的数据量。
此外,谷歌在基础设施建设方面也做出了重大投资。该公司已经铺设了长达200万英里的地面和海底光纤网络,这一规模较之第二名云服务商翻了十倍之多,这不仅体现了谷歌对基础设施建设的重视,也为其未来的业务发展奠定了坚实的基础。
全部评论