亚马逊推出新款AI芯片Trainium2、Graviton4处理器

来源: 芯闻路1号 作者:玉衡 2023-11-29 13:28:35

11月28日,亚马逊宣布为其云计算服务推出一款新的AI(人工智能)芯片Trainium2、Graviton4处理器,以应对微软主导的人工智能市场竞争加剧的局面。

 

亚马逊AWS CEO Adam Selipsky称,Trainium2性能是上一代的四倍,能效是前代的两倍。这款芯片可以部署在多达10万个芯片的EC2 UltraCluster集群中,从而可以高效训练基础模型和大语言模型。

 

此外,亚马逊还推出了该公司第四款定制处理器芯片Graviton4,比前代性能提升30%,内核数增加50%,内存带宽增加75%,可以帮助Amazon EC2云服务的各类工作负载提供最佳性价比和能效。这款处理器还对所有高速物理硬件接口加密来提高安全性。

 

就在几周前,微软宣布推出自己的人工智能芯片Maia,而谷歌也拥有自己的TPU张量计算单元。如今谷歌、微软、亚马逊等大厂均已推出自己的定制AI芯片,避免对NVIDIA过度依赖,用于满足大语言模型等技术的开发。
 

Selipsky表示,AWS将于2024年开始提供新的训练芯片。不过,AWS云服务仍会继续为客户提供基于NVIDIA最新芯片的服务。

 

据了解,亚马逊、微软的定制芯片皆使用Arm架构,这也是云计算大厂试图远离对英特尔、AMD制造的处理器依赖的一部分。另一家科技公司甲骨文正在将初创公司Ampere Computing的芯片用于其云服务。

0
收藏
0