Arm:以强大生态系统和计算平台构建AI的未来

来源: Arm 2023-12-06 17:16:16
相关专题
#生成式AI:LLM与算力芯片

11月29日,在一年一度的Arm Tech Symposia 年度技术大会北京场上,Arm 高级副总裁兼基础设施事业部总经理 Mohamed Awad与媒体分享了Arm 生态系统的精彩创新。

 

图1 Arm高级副总裁兼基础设施事业部总经理 Mohamed Awad

 

计算、性能和软件驱动Arm计算平台

 

近年来,人工智能技术(AI)已经在各个领域取得了显著进展,在计算机视觉、智能机器人、智能家居、自动驾驶等领取已经得到了广泛应用。AI的快速发展为计算、数据和性能带来了更庞大的需求,全球的基础设施面临强大的压力。

 

“Arm 已从 IP 提供商转型为计算平台公司,在致力于 IP 授权业务的同时,也专注于通过完整且全面的解决方案,为合作伙伴带来选择的灵活性,帮助他们更快地将产品推向市场。凭借其兼具灵活性和设计的独特模式,以及强大的生态系统为AI带来巨大转变。” Mohamed Awad表示,目前 AI最大的挑战之一是内存带宽以及其能否为设备提供更好的支持,而Arm 计算平台由计算、性能和软件三大支柱驱动。作为全球最普及的计算平台,Arm 平台的问世得益于计算和软件相结合所实现的出色性能与能效表现,是硬件和软件的紧密集成。

 

图2 Arm 为移动、基础设施、物联网,以及汽车领域推出对应的计算平台

 

目前,针对移动、基础设施、物联网与汽车等市场,Arm分别推出了全面计算解决方案 (Arm® Total Compute Solutions)、Arm Neoverse™平台、Arm Corstone™以及 SOAFEE 等计算平台,为生态伙伴提供完整、集成的解决方案,加速他们的产品上市进程,并实现差异化。

 

在物联网领域,Arm 拥有种类丰富的边缘 AI 产品组合。凭借 Arm Cortex®-M55、Cortex-M85 以及新推出的 Cortex-M52,Arm持续提供合作伙伴所需的各种性能,从而满足 AI 时代人们对物联网日渐增长的需求。这些产品在与可增加 150 条新标量和矢量指令的 Arm Helium™ 搭配使用时,其 AI 性能将得到大幅提升。Cortex-M52 简化了从 Cortex-M3/M4/M33 设备迁移的路径,通过 Helium 技术带来显著的 DSP 与 ML 性能提升,并具备更优异的能效等优势。以更低的成本、更高效集成的切入点,完善了Arm具备 Helium 功能的产品组合。

 

在智能终端领域,Arm 全面计算解决方案将计算与软件相结合,能够轻松实现可扩展的性能。今年Arm推出了全新的全面计算解决方案——TCS23,该解决方案已经连续三年实现两位数的性能提升,在能效方面也有所提高。Arm 旗舰级 GPU——Immortalis™ GPU,也立于技术前沿,可为智能手机提供光线追踪功能。今年Arm已获得了来自华硕、MediaTek、OPPO、三星、台积公司、vivo 等合作伙伴的大力支持。明年Arm将推出基于 Armv9 构建的 2024 全面计算解决方案,不断满足未来对 AI 工作负载不断增长的需求。

 

在汽车领域,Arm与生态伙伴共同发起面向嵌入式边缘的可扩展开放架构 SOAFEE (Scalable Open Architecture For the Embedded Edge),旨在通过全行业的携手合作,共同解决三大挑战——软件可移植性、加速软件开发和软件可升级性。SOAFEE 成立至今已有两年时间,来自车厂、芯片供应商、一级供应商和软件等合作伙伴现已超过 100 名成员。今年的工作重点聚焦 SOAFEE 蓝图的实施,助力合作伙伴能够安全、快速地启动应用,顺利开发出互联汽车、自动驾驶汽车或车载信息娱乐 (IVI) 系统。

 

在基础设施领域,随着大型语言模型 (LLM) 的加速发展,生成式 AI 正迅速成为人们日常生活中的一部分。NVIDIA最新推出的NVIDIA GH200 Grace Hopper 超级芯片采用了72 颗 Arm Neoverse 核心,加上来自 NVIDIA 的 GPU组合,其 AI 性能较基于 x86 架构的系统可提升 10 倍。

 

A blue and white advertisement with a computer

Description automatically generated with medium confidence

图3 NVIDIA GH200 Grace Hopper 超级芯片采用 Arm Neoverse 搭配 NVIDIA GPU,满足 AI 性能的需求

 

为了缓解未来基础设施的压力,行业需要依赖强大的软件生态系统,在高效、可扩展的多核计算基础上,打造专用处理的能力。Arm 为此推出了 Arm Neoverse 计算子系统 (CSS),在帮助合作伙伴加快上市速度的同时,降低开发定制芯片所需的总投资,并使整个生态系统更易获得创新带来的优势。微软近期发布其首款专为计算中心打造的定制芯片——Microsoft Azure Cobalt 100 CPU,便是基于 Arm Neoverse CSS 所打造。这款芯片具有 128 颗 Neoverse 核心。

 

可持续的生态系统

 

Arm技术作为全球的基石技术,所提供的基础平台能够赋能生态伙伴持续创新,打造出更卓越的产品和解决方案。Mohamed Awad介绍,对 Arm 而言,中国是最大也是增长最快的市场之一。中国合作伙伴基于 Arm 架构芯片的总出货量已累计达 300 亿颗,目前Arm在中国有近 400 家技术授权客户,而且这个数字每个月都在不断攀升。

 

Arm一直致力于帮助合作伙伴增加产品差异化优势,并将创意快速地推向市场。在中国,阿里巴巴凭借倚天 710 为阿里云构建了性能出众的解决方案。与传统部署相比,这款搭载 128 核心的芯片能够显著提升性能效率。鸿钧微电子、遇贤微电子与云豹智能正在带领中国计算基础设施领域初创企业的新一轮浪潮,分别致力于提供新一代服务器 CPU 以及云计算与数据中心的 DPU 设计。Arm还携手联想等合作伙伴,通过在国内设立的Arm 5G 解决方案实验室等举措加快基于 Arm 架构解决方案的部署,促进5G生态系统的创新及多样性发展。

 

Arm 拥有全球最大的开发者生态系统。在 1500 万名开发者中,有 400 万名在中国。这些开发者之所以选择基于 Arm 平台开展工作,是因为Arm可为所有主流操作系统和开源软件提供广泛的优化工具集。Arm大力投资通用工具链,例如以适用于多个平台和应用场景的标准为基础的编译器、软件库和框架,旨在于让开发者尽可能轻松地从基于 Arm 平台运行的软件中获得出色性能,同时让全世界能够分享创新成果。

 

Mohamed Awa最后表示:“我们相信,当今的 Arm 技术是全球的基石技术。在通过智能手机改变世界的移动生态系统中,我们一直以来都处于前沿地位。如今,我们将携手众多合作伙伴,提升沉浸式的移动体验,解锁新一代物联网,加速软件定义汽车的发展,为构建生成式 AI 时代的数据中心设计蓝图,从而并肩走在行业前列。”

0
收藏
0