“加速一切”,NVIDIA CEO 黄仁勋在 COMPUTEX 开幕前发表主题演讲

来源: NVIDIA 2024-06-03 10:17:04
黄仁勋详细介绍了推动新工业革命的全新半导体、软件和系统,它们将为新型数据中心、工厂、消费级设备、机器人等提供助力;并强调了降低成本和可持续增长的重要性。

黄仁勋详细介绍了推动新工业革命的全新半导体、软件和系统,它们将为新型数据中心、工厂、消费级设备、机器人等提供助力;并强调了降低成本和可持续增长的重要性。

 

观看主题演讲回放请访问:https://www.nvidia.cn/events/computex

 

 

NVIDIA 创始人兼首席执行官黄仁勋在 COMPUTEX 大会开幕前发表主题演讲,他表示:“生成式 AI 正在重塑行业,并为创新和增长带来新机遇。”

 

“今天,我们正处于计算领域重大转变的最前沿,”黄仁勋表示,“人工智能和加速计算的交汇将重新定义未来。”

 

6500 多名行业领导者、媒体、企业家、游戏玩家、创作者和AI爱好者在台湾大学综合体育馆齐聚一堂,现场聆听黄仁勋的主题演讲。

 

 

NVIDIA 加速平台已经全面投入生产,不仅通过搭载 NVIDIA RTX 技术的 AI PC和消费级设备为游戏玩家和创作者带来全新体验,还支持企业利用 NVIDIA 全栈计算平台构建和部署的 AI 工厂。

 

“加速计算是计算行业的未来,”黄仁勋表示,“凭借 NVIDIA 在 AI 和加速计算领域的创新,我们正在创造更多可能,推动新一轮技术进步。”

 

每年更新路线图

 

黄仁勋分享了新半导体技术路线图,该路线图将每年更新。 他首次宣布了Rubin 平台,它将配备新 GPU、基于 Arm 的新 CPU — Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太网交换机的高级网络平台。Rubin 将作为 Blackwell 的下一代平台。

“我们公司的更新节奏是以年为单位。我们的基本理念非常简单:打造数据中心规模,以每年的节奏分步骤实现、并向客户交付产品,在各个领域实现技术突破,”黄仁勋解释道。

 

NVIDIA 创意团队使用 NVIDIA Inception 初创计划成员提供的 AI 工具来创作 COMPUTEX 主题演讲,该工具基于 NVIDIA NIM 和 NVIDIA 加速计算。本次演讲演示了各种 demo,重点介绍了上述创新工具以及 NVIDIA 技术带来的变革性影响。

 

加速计算实现可持续增长

 

黄仁勋在演讲开始时表示,NVIDIA 正在降低将数据转化为智能的成本。

 

他强调:“加速计算能够实现可持续增长。” 他同时介绍了 GPU 和 CPU 组合如何实现高达 100 倍的加速计算,同时功耗仅增加三倍,每瓦性能比单独使用 CPU 提高 25 倍。买的越多,省的越多。” 他强调了这种方法可显著节约成本和能源。

 

业界携手 NVIDIA 打造 AI 工厂,助推新工业革命

 

领先的计算机制造商已经纷纷开始采用 NVIDIA GPU 和网络解决方案。永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、超微(Supermicro)、纬创(Wistron)和纬颖科技(Wiwynn)等企业正在打造基于NVIDIA技术的云、专用系统和边缘AI系统。

 

NVIDIA MGX™ 模块化参考设计平台加入了对Blackwell产品的支持,包括GB200 NVL2平台,该平台专为大语言模型推理、检索增强生成和数据处理提供卓越的性能而打造。

AMD 和英特尔均支持MGX架构,并首次计划推出基于他们自己CPU主机处理器的模块设计。任何服务器系统制造商都可以使用这些参考设计节省开发时间,并确保设计和性能的一致性。

 

采用Spectrum-X 的下一代网络平台

 

为了满足AI对高性能以太网网络平台日益增长的需求,黄仁勋宣布了每年推出新的 Spectrum-X产品的计划。

 

NVIDIA Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将网络性能较传统以太网网络平台提升1.6倍。Spectrum-X 能够加快 AI 工作负载的处理、分析和执行速度,进而加快 AI 解决方案的开发和部署速度。

 

率先采用 Spectrum-X 的 AI 云服务提供商包括 CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta等,他们的 AI 基础设施因此而获得了超强的网络性能。

 

NVIDIA NIM 让数百万人成为生成式 AI 开发者

 

现在,全球 2800 万开发者都可以借助 NVIDIA NIM 轻松地创建生成式 AI 应用。NIM 是一种推理微服务,通过以经过优化的容器的形式提供模型,以部署在云、数据中心或工作站上。

NIM 还能帮助企业实现基础设施投资的效果最大化。例如,与未使用 NIM 的情况相比,在 NIM 中运行 Meta Llama 3-8B 所能生成的加速基础设施 AI token 可以提升 3 倍。

 

Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技术合作伙伴正将 NIM 集成到他们的平台中,加快生成式 AI 部署到特定领域应用中的速度,例如copilots、代码助手、数字人虚拟形象等。从 Meta Llama 3 开始,在 Hugging Face上现已开始提供 NIM。

 

“今天我们在 Hugging Face上发布了全面优化的 Llama 3,”黄仁勋表示。“您可以在任何云中运行它。下载该容器,并将其存入数据中心,然后就可以托管,并提供给客户使用。”

 

NVIDIA 利用 GeForce RTX AI PC 令 AI 助手栩栩如生

 

搭载 RTX 技术的 NVIDIA RTX AI PC 将通过 200 多款 RTX AI 笔记本电脑和 500 多款采用 AI 技术的应用和游戏彻底改变消费者的体验。

 

RTX 套件和为NVIDIA ACE 数字人平台最新推出的基于 PC 的 NIM 推理微服务,将进一步提高 AI 的可访问性。

 

另外,NVIDIA 还发布了搭载 RTX 的 AI 助手技术演示 G-Assist 项目,展示了针对 PC 游戏和应用的上下文感知辅助功能。

 

Microsoft 和 NVIDIA 正在一起帮助开发者将新的生成式 AI 功能加入到他们的 Windows 原生和 Web 应用程序中,使开发者能够通过 API 轻松访问由 RTX 加速的 SLM,作为 Windows Copilot Runtime 的一部分实现在设备上运行的 RAG 功能。

 

NVIDIA 机器人技术获得行业领导者的青睐

 

NVIDIA 正引领价值 50 万亿美元的工业数字化变革,各行各业都在采用自主运营和数字孪生,通过虚拟模型提高效率并降低成本。NVIDIA 通过其开发者计划提供对 NIM 的访问权限,以促进 AI 创新。

 

领先的制造商们正在利用 NVIDIA 的技术改造他们的工厂。黄仁勋展示了 Foxconn 如何利用 NVIDIA Omniverse、Isaac 和 Metropolis 创建数字孪生,通过结合视觉 AI 与机器人开发工具来实现增强的机器人设施。

 

“AI 的新一波浪潮是物理 AI。AI 能够理解物理定律,并与人类并肩作战,”黄仁勋表示,他强调了机器人和人工智能在未来发展中的重要性。

 

NVIDIA Isaac 平台为开发者构建 AI 机器人提供强大的套件,包括由 AI 模型以及Jetson Orin、Thor 等超级计算机驱动的 AMR、工业机械臂和人形机器人。

 

“机器人和物理 AI 正在成为现实,而不仅是出现在科幻小说。这真的令人兴奋,”黄仁勋补充道。

 

 

全球电子行业领导企业正在将 NVIDIA 自主机器人技术集成到他们的工厂中,利用 Omniverse 中的模拟功能来测试和验证物理世界的新一代 AI。全球 500 多万台预编程机器人也在此行列中。

 

“机器人将遍布所有工厂。工厂将实现对机器人的统筹,而这些机器人将制造新的机器人产品,”黄仁勋解释道。

 

黄仁勋强调了 NVIDIA Isaac 在提高工厂和仓库效率方面的作用,比亚迪电子、西门子、泰瑞达、Intrinsic 等全球领先企业都在使用 NVIDIA Isaac 的高级程序库和 AI 模型。

 

IGX 平台上的 NVIDIA AI Enterprise与凌华科技(ADLINK)、研华科技(Advantech)、ONYX 等合作伙伴共同打造符合严格监管标准的边缘 AI 解决方案,以满足医疗技术等行业的关键需求。

 

最后,黄仁勋向 NVIDIA 合作伙伴再次表示感谢。

 

计算机行业携手 NVIDIA 为新工业革命打造 AI 工厂和数据中心

 

 

NVIDIA 与全球多家领先计算机制造商于共同发布一系列采用 NVIDIA Blackwell 架构的系统,这些系统搭载 Grace CPU 以及 NVIDIA 网络和基础设施,助力于企业建立 AI 工厂和数据中心,推动新一轮生成式 AI 突破。

 

NVIDIA 创始人兼首席执行官黄仁勋在其 COMPUTEX 主题演讲中宣布,永擎电子、华硕、技嘉、鸿佰科技、英业达、和硕、QCT、Supermicro、纬创资通和纬颖将使用 NVIDIA GPU 和网络打造云、专用系统、嵌入式和边缘 AI 系统。

 

“新一轮工业革命已经开始。众多企业和地区正在与 NVIDIA 合作推动价值万亿美元的传统数据中心向加速计算转型,并建造一种新型数据中心——AI 工厂来生产新的商品:人工智能。”黄仁勋表示 ,“从服务器、网络和基础设施制造商到软件开发商,整个行业正在准备使用 Blackwell 来加速各个领域实现 AI 驱动的创新。”

 

为了满足各类应用的需求,所发布产品配置丰富,涵盖了从单 GPU 到多 GPU、从 x86 到 Grace、从风冷到液冷技术等。

 

此外,为了加快不同规模和配置的系统开发,NVIDIA MGX™ 模块化参考设计平台加入了对 NVIDIA Blackwell 产品的支持,包括全新 NVIDIA GB200 NVL2 平台,该平台专为主流大语言模型推理、检索增强生成和数据处理提供卓越的性能而打造。

 

GB200 NVL2 非常适合用于数据分析等新兴领域,企业每年在这些领域的支出高达数百亿美元。借助 NVLink®-C2C 互连技术带来的高带宽内存性能和 Blackwell 架构中专有的解压缩引擎,较使用 x86 CPU 时数据处理速度可提速最多达 18 倍,能效提高了 8 倍。

 

适用于加速计算的模块化参考架构

 

为了满足全球数据中心多样化的加速计算需求,NVIDIA MGX 为计算机制造商提供了一个参考架构,以便其能够以快速且低成本的方式构建超过 100 种的系统设计配置。

 

制造商首先可根据其服务器机箱选择一种基本的系统架构,然后再根据不同的工作负载选择 GPU、DPU 和 CPU。目前,已有超过 25 家合作伙伴的 90 多套已发布或正在开发中的系统使用了 MGX 参考架构,较去年来自 6 家合作伙伴的 14 套系统有了显著的增加。通过采用 MGX,开发成本大幅降低,较之前最多降低了四分之三,开发时间缩短到仅六个月,较之前减少了三分之二。

 

AMD 和英特尔都支持 MGX 架构,并首次计划打造基于他们自己 CPU 主机处理器的模块设计,其中包括下一代 AMD Turin 平台和基于 P 核心的第六代英特尔®至强®处理器(原 Granite Rapids)。任何服务器系统厂商都可以借助这些参考设计节省开发时间,并确保设计和性能的一致性。

 

NVIDIA 的最新平台 GB200 NVL2 也采用了 MGX 和 Blackwell。在横向扩展能力上,采用单一节点设计,就可以支持各种不同的系统配置和网络选项,将加速计算无缝集成到现有的数据中心基础设施中。

 

GB200 NVL2 现已加入 Blackwell 产品阵容,该阵容涵盖的其他产品还包括 NVIDIA Blackwell Tensor Core GPU、GB200 Grace Blackwell 超级芯片和 GB200 NVL72。

 

统一的生态系统

 

NVIDIA 拥有一个全面的合作伙伴生态系统,包括全球领先的半导体制造商和 NVIDIA 代工合作伙伴 TSMC,以及为建造 AI 工厂提供关键组件的全球电子制造商,包括了很多在服务器机架、供电和冷却方案等制造领域的创新成果,这些成果来自安费诺、奇鋐科技(AVC)、Cooler Master、Colder Products Company(CPC)、丹佛斯、台达和光宝科技等公司。

受益于此,现在可以快速开发和部署新数据中心基础设施,满足全球企业的需求,Blackwell 技术、NVIDIA Quantum-2 或 Quantum-X800 InfiniBand 网络平台、NVIDIA Spectrum™-X 以太网平台以及 NVIDIA BlueField®-3 DPU 通过头部系统制造商戴尔科技、慧与和联想等服务器系统进一步加速数据中心的开发和部署。

 

 

企业级用户还可以使用包含 NVIDIA NIM™ 推理微服务的 NVIDIA AI Enterprise 软件平台,来创建和运行生产级生成式 AI 应用。

 

行业拥抱 Blackwell

 

黄仁勋在本次 COMPUTEX 主题演讲中还宣布,各大领先企业正在迅速采用 Blackwell,利用 AI 为自身业务赋能。

 

台湾地区的一流医疗中心长庚纪念医院计划使用 NVIDIA Blackwell 计算平台推进生物医学研究并加速影像和语言应用,以此改善临床工作流程,提升患者感受。

 

全球最大电子制造商之一 Foxconn 正计划使用 NVIDIA Grace Blackwell 来开发用于 AI 电动汽车和机器人平台的智能解决方案,以及日益增长的基于语言的生成式 AI 服务,以为其客户打造更加个性化的体验。

 

合作伙伴荐言

  • 安费诺总裁兼首席执行官 R.Adam Norwitt 表示:“NVIDIA 开创性的 AI 系统需要先进的互连方案,安费诺很高兴能够为其提供关键组件。作为 NVIDIA 庞大生态系统中的重要合作伙伴,我们能够为 Blackwell 加速平台提供非常复杂且高效的互连产品,帮助其提供尖端的性能。”
  • AVC 董事长兼首席执行官沈庆行表示:“AVC 在为 NVIDIA 的产品 - AI 硬件提供高效冷却方案中起着重要作用,如最新的 Grace Blackwell 超级芯片的冷却方案。随着 AI 模型和工作负载的日益增长,可靠的散热管理对于处理密集的 AI 计算至关重要,我们一直与 NVIDIA 携手共进。”
  • 华硕董事长施崇棠表示:“通过在本次 COMPUTEX 上展示的强大服务器产品阵容,华硕正在与 NVIDIA 一同推动企业 AI 到新的高度。借助 NVIDIA 的 MGX 和 Blackwell 平台,我们将为处理用户的训练、推理、数据分析和 HPC 工作负载而量身定制数据中心解决方案。”
  • Dover Corporation 旗下 CPC 总裁 Janel Wittmayer 表示:“CPC 创新的专用连接器技术使得基于液冷 NVIDIA GPU 的 AI 系统实现了更容易和可靠的连接。在对性能和品质的追求上,我们与 NVIDIA 志同道合,CPC 有能力和专业技术提供关键技术组件,满足 NVIDIA 大幅增长的和持续的需求。我们的连接器是保障温度敏感型产品一致性的关键,这对于在 AI 系统在运行计算密集型任务时尤为重要。我们很高兴能够成为 NVIDIA 生态系统的一部分,这将我们的技术带到了新的应用领域。”
  • Cooler Master 首席执行官 Andy Lin 表示:“随着加速计算需求的持续增长,使用先进加速器的企业也需要能够有效满足能源标准的解决方案。作为散热管理解决方案的先行者,Cooler Master 正在助力 NVIDIA Blackwell 平台发挥其全部潜能,为用户提供卓越的性能。”
  • 丹佛斯首席执行官 Kim Fausing 表示:“丹佛斯致力于创新、高性能的 Quick Disconnect 技术和流体动力设计,这使我们的连接产品在数据中心实现高效、可靠和安全运行方面发挥了重要作用。作为 NVIDIA AI 生态系统的重要成员,我们通过合作使数据中心能够满足日益增长的 AI 需求,同时最大程度地减少对环境的影响。”
  • 台达董事长兼首席执行官郑平表示:“无处不在的算力需求开启了一个性能加速的新时代。在我们先进的冷却和电源系统中,台达开发出了创新的解决方案,使 NVIDIA Blackwell 平台在保持能效和热效率的同时,又能达到最高的性能水平。”
  • 技嘉副总裁兼总经理李宜泰表示:“技嘉与 NVIDIA 已合作了近三十年,我们一直全力支持 NVIDIA 的各种技术平台,涵盖了 GPU、CPU、DPU 和高速网络。为了让企业在计算密集型工作负载中实现更高的性能与能效,我们将推出一系列搭载 Blackwell 架构的系统。”
  • 鸿海科技集团董事长兼首席执行官刘扬伟表示:“生成式 AI 正在深入改变各行各业,Foxconn 已作好准备,提供前沿解决方案以满足对多样化和高算力的需求。我们不仅在自己的服务器中使用最新的 Blackwell 平台,还为 NVIDIA 提供关键组件,以帮助客户能够更快将产品推向市场。”
  • 英业达总裁蔡枝安表示: “近半个世纪以来,英业达一直深耕设计和制造电子产品和元件,这也是我们公司的立身之本。通过搭载 NVIDIA Grace Blackwell 超级芯片的 NVIDIA MGX 机架式解决方案,我们正在帮助客户达到 AI 能力与性能的新高度。”
  • 光宝科技总裁邱森彬表示:“功率管理和冷却解决方案是建立更绿色环保、更可持续的数据中心的核心。随着NVIDIA Blackwell 平台的发布,光宝科技正在推出多款液冷解决方案,帮助 NVIDIA 的合作伙伴打造出更加高效、环保的未来数据中心。”
  • 广达电脑公司董事长林百里表示: “我们正处在一个由 AI 驱动的世界的中心,创新速度前所未有。NVIDIA Blackwell 不止是一个引擎,更是点燃这场工业革命的火花。当下正值定义下一个生成式 AI 时代之际,广达电脑公司十分高兴能够与 NVIDIA 一起踏上这段精彩的旅程。我们将共同塑造和定义 AI 的一个新篇章。”
  • Supermicro 总裁兼首席执行官梁见后表示:“凭借我们的积木式架构和机架扩展级液冷解决方案,再加上我们的自主工程能力和每月 5000 个机架的全球产能,Supermicro 能够向全球 AI 工厂快速交付各种基于 NVIDIA AI 平台的、创新变革性的产品。我们的液冷或风冷型高性能系统以机架为单位而设计,并针对搭载 NVIDIA Blackwell 架构的所有产品进行了优化,从而为客户提供无比强大的平台选择,以满足他们对新一代计算的需求。这也是我们朝着未来 AI 所迈出的一大步。”
  • TSMC 首席执行官魏哲家表示:“TSMC 通过与 NVIDIA 的密切合作,推动半导体极限创新,以实现其 AI 愿景。我们凭借业界领先的半导体制造技术,助力于 NVIDIA 打造出开创性的 GPU产品,当然也包括基于 Blackwell 架构的 GPU。
  • 纬创资通首席执行官林建勋表示:“纬创资通作为 NVIDIA 重要的制造合作伙伴,与 NVIDIA 一起走过了一段精彩纷呈的旅程,共同为客户提供 GPU 计算技术和 AI 云解决方案。现在,我们正在使用 NVIDIA 最新的 GPU 架构和参考设计,比如 Blackwell 和 MGX,将大量新 AI 计算产品快速推向市场。”
  • 纬颖总裁林威远表示:“纬颖专注于满足客户在生成式 AI 时代对海量算力和先进冷却解决方案方面日益增长的需求。凭借基于 NVIDIA Grace Blackwell 和 MGX 平台的最新产品线,我们正在构建优化的机架级液冷型 AI 服务器,专为超大规模云服务提供商和企业高要求的工作负载量身打造。”

电子制造商纷纷采用NVIDIA AI和 Omniverse,使机器人工厂为工业数字化注入新动能

 

 

各大电子制造商正在使用NVIDIA的技术并借助新的参考工作流将其工厂改造成具有更高自主化水平的设施。该工作流结合了NVIDIA Metropolis 视觉 AI、NVIDIA Omniverse™ 基于物理学的渲染与模拟以及NVIDIA Isaac™ AI 机器人开发与部署。

 

通过使用该工作流构建数字孪生以实时模拟不同工厂布局,制造商无须进行昂贵的物理改造,就能优化空间、流程和效率。

 

NVIDIA机器人和边缘计算副总裁Deepu Talla表示:“制造业的AI时代已经到来。生成式AI和数字孪生技术所带来的变革性影响正不断提高各个工厂的自主化水平。借助NVIDIA Omniverse、Metropolis和Isaac,工业生态系统可以加速采用自主技术,帮助工厂提高运营效率并降低成本。”

 

电子制造商使用NVIDIA技术打造机器人设施

 

Delta Electronics、Foxconn、和硕和Wistron正在使用该参考工作流构建、模拟和运营其机器人增强型设施。

 

在COMPUTEX主题演讲的演示中,NVIDIA创始人兼首席执行官黄仁勋展示了全球最大电子制造商之一Foxconn如何在NVIDIA Omniverse 平台上开发其工厂的数字孪生。NVIDIA Omniverse是一个能够在虚拟环境中集成来自领先行业工具(如西门子Xcelerator平台的Teamcenter等)3D数据的平台。

 

Omniverse 帮助Foxconn的团队优化操作流程的设备布局,AI摄像头通过NVIDIA Metropolis监控工人安全。然后,Foxconn可以使用工厂数字孪生作为虚拟培训环境来模拟、测试和验证其基于 NVIDIA Isaac Perceptor 加速库构建的自主移动机器人 (AMR),以及由 NVIDIA Isaac Manipulator AI 模型提供支持的 AI 机器人机械臂。

 

Foxconn首席执行官兼董事长刘扬伟表示:“AI和机器人技术有望为制造业带来巨大改变,在提高工厂车间安全性的同时显著提升运营效率。通过将NVIDIA Omniverse、Metropolis和Isaac整合到运营中,我们可以创建出用于训练机器人的复杂工厂数字孪生,以前所未有的精度优化工作流并降低成本。”

 

Delta Electronics是电子产品和物联网智能绿色解决方案领域的领先制造企业。该公司正利用在Omniverse和OpenUSD(一个开放、可扩展的 3D 世界生态系统)上开发的可扩展机器人仿真平台NVIDIA Isaac Sim™ ,在虚拟环境中对其用于演示的生产线进行集成。然后,该平台生成物理精确的逼真合成数据,以用于训练其NVIDIA Metropolis助力的自动光学检测和缺陷检测解决方案的计算机视觉模型。

 

制造商和服务提供商和硕正在部署NVIDIA Metropolis 多摄像头工作流并推出一套新的服务,以打通其NVIDIA Omniverse 和 Metropolis 工厂数字孪生工作流与NVIDIA NeMo™ 和NVIDIA NIM™ ,帮助工厂操作员实现实时“聊天”。和硕庞大的工厂网络占地超过2100万平方英尺,每月生产超过1500万个组件,这些技术进步将有助于改善工人安全与生产力。

为加快NVIDIA DGX™ 和NVIDIA HGX™服务器的生产,全球领先的电子制造企业Wistron建立了其工厂的数字孪生。现在,该公司正在将Omniverse的使用范围扩大到开发数据中心的数字孪生。这些数字孪生将用于测试和确保新组装的 NVIDIA HGX系统的质量、性能和能耗。

通过使用 NVIDIA Omniverse首先模拟其设施和工作流,Wistron只用了平常时间的一半(仅两个半月而非五个月)就实现了工厂上线,并且通过测试和优化布局将工人效率提高了 50%以上。

 

Wistron全球制造总裁 Alec Lai 表示:“通过结合NVIDIA Omniverse与 NVIDIA Metropolis,我们能够利用产线上每台机器的实时物联网数据,在虚拟环境中对新的布局进行测试,以此确定新的流程并监控实时运营情况。通过将工厂规划流程数字化,我们的端到端周期时间缩短了 50%。”

 

生态系统向工业应用扩展

 

领先的系统集成商 Kenmec 是早期实施Omniverse 和 Metropolis 工作流与服务的企业之一,其客户包括Giant Group等大型制造商。

 

为了帮助生态系统中的众多开发者,这些数字孪生工作流将以参考架构系列的形式提供。

 

行业领先者采用 NVIDIA 机器人技术开发数千万 AI 自主机器

 

全球机器人开发领域的领先企业正在采用 NVIDIA Isaac™ 机器人平台来研究、开发和生产下一代 AI 赋能的自主机器和机器人。

 

比亚迪电子、西门子、泰瑞达和 Alphabet 旗下公司 Intrinsic 等全球十多家机器人行业领先企业,正在将 NVIDIA Isaac 加速库、基于物理学的仿真和 AI 模型集成到其软件框架和机器人模型中,以此提高工厂、仓库和配送中心的工作效率,使机器人的人类同事更安全地工作,并使机器人成为执行重复性或超精密任务的智能助手。

 

NVIDIA 创始人兼首席执行官黄仁勋表示: “机器人时代已经到来。有朝一日,移动的物体都将实现自主运行。我们正致力于通过推进 NVIDIA 机器人堆栈的发展,来加速生成式物理 AI,其中包括用于仿真应用的 Omniverse、Project GR00T 人形机器人基础模型,以及 Jetson Thor 机器人计算平台等。”

 

Isaac 平台带有一整套 NVIDIA 加速库、AI 基础模型和仿真技术,今日起可供机器人制造商集成到其技术堆栈中。

  • NVIDIA Isaac ROS:一组模块化 ROS 2 软件包,为 ROS 社区开发者提供 NVIDIA 加速和 AI 模型。
  • NVIDIA Isaac Perceptor:基于 Isaac ROS 构建的参考工作流,为基于 AI 的自主移动机器人提供多摄像头 3D 环视功能。
  • NVIDIA Isaac Manipulator:基于 Isaac ROS 构建的参考工作流,可简化 AI 机械臂或操纵器的开发,以便无缝感知、理解环境并与其互动。
  • NVIDIA Isaac Sim™:一款基于 NVIDIA Omniverse™ 平台的参考应用,用于仿真、测试和验证物理环境中的机器人,并生成合成数据。
  • NVIDIA Isaac Lab:一款 Isaac Sim 中的参考应用,针对 AI 机器人基础模型训练中的强化、模仿和迁移学习进行了优化。

 

Isaac 生态系统迅速扩展

 

NVIDIA Isaac 的早期采用者是来自亚洲、欧洲和北美地区机器人和自主机器开发领域的佼佼者。

 

工业自动化软件和系统领域的全球领导者西门子正在使用 NVIDIA Isaac Sim 开发其强大的软件在环功能。Isaac 技术加速了西门子对 SIMATIC Robot PickAI(PRO)和 SIMATIC Robot Pack AI 等先进机器人技能的开发和测试。该 AI 视觉软件提供认知型 AI 驱动功能,使工业机器人系统能够自主、可靠地拾取和包装任意物品,无需用户事先对 AI 进行任何培训。两家公司计划扩大合作关系,并在今年晚些时候的 SPS 展览会上宣布新的功能。

 

西门子提供工业级 AI,并通过与自动化解决方案无缝集成,使其在采用 NVIDIA 技术驱动的西门子工业 PC 基础上部署时易于使用,从而将其推向机器人技术的最前沿,将视觉 AI 带入工业机器人生态系统。

 

西门子公司总裁兼首席执行官 Roland Busch 表示:“由 AI 驱动的机器人将加速工业的数字化转型,并接管以前无法自动化的重复性工作,这样我们就可以释放人类的潜能,从事更具创造性和价值的工作。西门子与 NVIDIA 携手,让我们的客户和合作伙伴能够利用 AI 进行新的创新,并将其作为工业自动化解决方案的一部分,从而提高效率和竞争优势。”

 

Intrinsic 是 Alphabet 旗下的一家软件和 AI 机器人子公司,于 2022 年底收购了开源机器人公司(Open Source Robotics Corporation)。Intrinsic 在其跨机器人软件平台中成功测试了 Isaac Manipulator,利用 Manipulator 展示了一种可扩展且普适的机器人抓取技能潜力,这种技能可以作用于不同的抓手、环境和物体。

 

Intrinsic 首席执行官 Wendy Tan White 表示: “NVIDIA 是我们最好的合作伙伴,正在帮助我们为基础模型铺平道路,从而对工业机器人技术产生深远的影响。我们的团队正在共同努力将 NVIDIA Isaac 与 Intrinsic 平台整合到一起,为数百万开发者和企业解锁巨大的潜在价值。”

 

比亚迪集团在全球电子、汽车、新能源和轨道交通四大行业都拥有强大的制造实力。其子公司比亚迪电子(BYDE)是全球领先的高科技创新产品供应商,正在使用 NVIDIA Isaac Sim 和 Isaac Perceptor 开发全系列自主移动机器人,为工厂提供完整的物流解决方案。

 

比亚迪电子高级业务开发总监 Chris Yotive 表示:“比亚迪非常重视帮助客户加快物流应用的部署。通过与 NVIDIA 合作,我们开发出了由 NVIDIA Isaac 驱动的先进自主移动机器人,这将提高工人的安全性,降低生产成本,并为我们的客户提高生产智能化水平。”

 

泰瑞达旗下的优傲机器人(UR)和名傲移动机器人(MiR)正在使用 NVIDIA Isaac 将 AI 融入自动化。UR 正在将 Isaac Manipulator 集成到其 PolyScope X 软件平台中,以开发新的协作机器人解决方案。MiR 正在利用 Isaac Sim 生成合成数据,并仿真其 MiR1200 托盘搬运叉车的实际部署。

 

泰瑞达集团机器人事业部全球总裁 Ujjwal Kumar 表示: “解决客户在机器人技术方面难题的关键在于整个行业的齐心协力。凭借 NVIDIA Isaac 先进的 AI 和仿真能力,再加上我们庞大的自主移动机器人和协作机器人装机量,将共同推动创新,为多个行业提供快速解决方案。”

 

NVIDIA Isaac 平台采用模块化设计,使企业能够同时采用单项或多项技术。

 

ArcBest、比亚迪电子、Gideon、idealworks 和 RGo Robotics 等公司正在利用 Isaac Perceptor 开发先进的基于感知的自主移动机器人。

 

Solomon、达明机器人、Vention 和安川电机等公司正在利用 Isaac Manipulator 打造基于 AI 的机械臂。

 

目前,100 多家公司正在采用 Isaac Sim 来仿真、测试和验证机器人应用,其中包括海克斯康、富世华和 MathWorks。Agility、波士顿动力公司、Figure AI、傅利叶智能和 Sanctuary AI 正在使用 Isaac Lab。

 

Computex 上的机器人创新展示

 

在 COMPUTEX 主题演讲中,黄仁勋展示了用于交通运输、医疗和工业制造领域的机器人应用。在其中一个演示中,全球最大的电子制造商 Foxconn 展示了一个在 NVIDIA Omniverse 中全仿真的自主工厂,该工厂配备由 NVIDIA 机器人合作伙伴基于 NVIDIA Isaac 开发的 AI 机器人车队。

 

 

计算机行业携手 NVIDIA 为新工业革命打造 AI 工厂和数据中心

 

NVIDIA 与全球多家领先计算机制造商于共同发布一系列采用 NVIDIA Blackwell 架构的系统,这些系统搭载 Grace CPU 以及 NVIDIA 网络和基础设施,助力于企业建立 AI 工厂和数据中心,推动新一轮生成式 AI 突破。

 

NVIDIA 创始人兼首席执行官黄仁勋在其 COMPUTEX 主题演讲中宣布,永擎电子、华硕、技嘉、鸿佰科技、英业达、和硕、QCT、Supermicro、纬创资通和纬颖将使用 NVIDIA GPU 和网络打造云、专用系统、嵌入式和边缘 AI 系统。

 

“新一轮工业革命已经开始。众多企业和地区正在与 NVIDIA 合作推动价值万亿美元的传统数据中心向加速计算转型,并建造一种新型数据中心——AI 工厂来生产新的商品:人工智能。”黄仁勋表示 ,“从服务器、网络和基础设施制造商到软件开发商,整个行业正在准备使用 Blackwell 来加速各个领域实现 AI 驱动的创新。”

 

为了满足各类应用的需求,所发布产品配置丰富,涵盖了从单 GPU 到多 GPU、从 x86 到 Grace、从风冷到液冷技术等。

 

此外,为了加快不同规模和配置的系统开发,NVIDIA MGX™ 模块化参考设计平台加入了对 NVIDIA Blackwell 产品的支持,包括全新 NVIDIA GB200 NVL2 平台,该平台专为主流大语言模型推理、检索增强生成和数据处理提供卓越的性能而打造。

 

GB200 NVL2 非常适合用于数据分析等新兴领域,企业每年在这些领域的支出高达数百亿美元。借助 NVLink®-C2C 互连技术带来的高带宽内存性能和 Blackwell 架构中专有的解压缩引擎,数据处理速度可提速最多达 18 倍,能效较使用 x86 CPU 时提高了 8 倍。

 

适用于加速计算的模块化参考架构

 

为了满足全球数据中心多样化的加速计算需求,NVIDIA MGX 为计算机制造商提供了一个参考架构,以便其能够以快速且低成本的方式构建超过 100 种的系统设计配置。

 

制造商首先可根据其服务器机箱选择一种基本的系统架构,然后再根据不同的工作负载选择 GPU、DPU 和 CPU。目前,已有超过 25 家合作伙伴的 90 多套已发布或正在开发中的系统使用了 MGX 参考架构,较去年来自 6 家合作伙伴的 14 套系统有了显著的增加。通过采用 MGX,开发成本大幅降低,较之前最多降低了四分之三,开发时间缩短到仅六个月,较之前减少了三分之二。

 

AMD 和英特尔都支持 MGX 架构,并首次计划打造基于他们自己 CPU 主机处理器的模块设计,其中包括下一代 AMD Turin 平台和基于 P 核心的第六代英特尔®至强®处理器(原 Granite Rapids)。任何服务器系统厂商都可以借助这些参考设计节省开发时间,并确保设计和性能的一致性。

 

NVIDIA 的最新平台 GB200 NVL2 也采用了 MGX 和 Blackwell。在横向扩展能力上,采用单一节点设计,就可以支持各种不同的系统配置和网络选项,将加速计算无缝集成到现有的数据中心基础设施中。

 

GB200 NVL2 现已加入 Blackwell 产品阵容,该阵容涵盖的其他产品还包括 NVIDIA Blackwell Tensor Core GPU、GB200 Grace Blackwell 超级芯片和 GB200 NVL72。

 

统一的生态系统

 

NVIDIA 拥有一个全面的合作伙伴生态系统,包括全球领先的半导体制造商和 NVIDIA 代工合作伙伴 TSMC,以及为建造 AI 工厂提供关键组件的全球电子制造商,包括了很多在服务器机架、供电和冷却方案等制造领域的创新成果,这些成果来自安费诺、奇鋐科技(AVC)、Cooler Master、Colder Products Company(CPC)、丹佛斯、台达和光宝科技等公司。

受益于此,现在可以快速开发和部署新数据中心基础设施,满足全球企业的需求,Blackwell 技术、NVIDIA Quantum-2 或 Quantum-X800 InfiniBand 网络平台、NVIDIA Spectrum™-X 以太网平台以及 NVIDIA BlueField®-3 DPU 通过头部系统制造商戴尔科技、慧与和联想等服务器系统进一步加速数据中心的开发和部署。

 

企业级用户还可以使用包含 NVIDIA NIM™ 推理微服务的 NVIDIA AI Enterprise 软件平台,来创建和运行生产级生成式 AI 应用。

 

行业拥抱 Blackwell

 

黄仁勋在本次 COMPUTEX 主题演讲中还宣布,各大领先企业正在迅速采用 Blackwell,利用 AI 为自身业务赋能。

 

台湾地区的一流医疗中心长庚纪念医院计划使用 NVIDIA Blackwell 计算平台推进生物医学研究并加速影像和语言应用,以此改善临床工作流程,提升患者感受。

 

全球最大电子制造商之一 Foxconn 正计划使用 NVIDIA Grace Blackwell 来开发用于 AI 电动汽车和机器人平台的智能解决方案,以及日益增长的基于语言的生成式 AI 服务,以为其客户打造更加个性化的体验。

 

合作伙伴荐言

 

  • 安费诺总裁兼首席执行官 R.Adam Norwitt 表示:“NVIDIA 开创性的 AI 系统需要先进的互连方案,安费诺很高兴能够为其提供关键组件。作为 NVIDIA 庞大生态系统中的重要合作伙伴,我们能够为 Blackwell 加速平台提供非常复杂且高效的互连产品,帮助其提供尖端的性能。”
  • AVC 董事长兼首席执行官沈庆行表示:“AVC 在为 NVIDIA 的产品 - AI 硬件提供高效冷却方案中起着重要作用,如最新的 Grace Blackwell 超级芯片的冷却方案。随着 AI 模型和工作负载的日益增长,可靠的散热管理对于处理密集的 AI 计算至关重要,我们一直与 NVIDIA 携手共进。”
  • 华硕董事长施崇棠表示:“通过在本次 COMPUTEX 上展示的强大服务器产品阵容,华硕正在与 NVIDIA 一同推动企业 AI 到新的高度。借助 NVIDIA 的 MGX 和 Blackwell 平台,我们将为处理用户的训练、推理、数据分析和 HPC 工作负载而量身定制数据中心解决方案。”
  • Dover Corporation 旗下 CPC 总裁 Janel Wittmayer 表示:“CPC 创新的专用连接器技术使得基于液冷 NVIDIA GPU 的 AI 系统实现了更容易和可靠的连接。在对性能和品质的追求上,我们与 NVIDIA 志同道合,CPC 有能力和专业技术提供关键技术组件,满足 NVIDIA 大幅增长的和持续的需求。我们的连接器是保障温度敏感型产品一致性的关键,这对于在 AI 系统在运行计算密集型任务时尤为重要。我们很高兴能够成为 NVIDIA 生态系统的一部分,这将我们的技术带到了新的应用领域。”
  • Cooler Master 首席执行官 Andy Lin 表示:“随着加速计算需求的持续增长,使用先进加速器的企业也需要能够有效满足能源标准的解决方案。作为散热管理解决方案的先行者,Cooler Master 正在助力 NVIDIA Blackwell 平台发挥其全部潜能,为用户提供卓越的性能。”
  • 丹佛斯首席执行官 Kim Fausing 表示:“丹佛斯致力于创新、高性能的 Quick Disconnect 技术和流体动力设计,这使我们的连接产品在数据中心实现高效、可靠和安全运行方面发挥了重要作用。作为 NVIDIA AI 生态系统的重要成员,我们通过合作使数据中心能够满足日益增长的 AI 需求,同时最大程度地减少对环境的影响。”
  • 台达董事长兼首席执行官郑平表示:“无处不在的算力需求开启了一个性能加速的新时代。在我们先进的冷却和电源系统中,台达开发出了创新的解决方案,使 NVIDIA Blackwell 平台在保持能效和热效率的同时,又能达到最高的性能水平。”
  • 技嘉副总裁兼总经理李宜泰表示:“技嘉与 NVIDIA 已合作了近三十年,我们一直全力支持 NVIDIA 的各种技术平台,涵盖了 GPU、CPU、DPU 和高速网络。为了让企业在计算密集型工作负载中实现更高的性能与能效,我们将推出一系列搭载 Blackwell 架构的系统。”
  • 鸿海科技集团董事长兼首席执行官刘扬伟表示:“生成式 AI 正在深入改变各行各业,Foxconn 已作好准备,提供前沿解决方案以满足对多样化和高算力的需求。我们不仅在自己的服务器中使用最新的 Blackwell 平台,还为 NVIDIA 提供关键组件,以帮助客户能够更快将产品推向市场。”
  • 英业达总裁蔡枝安表示: “近半个世纪以来,英业达一直深耕设计和制造电子产品和元件,这也是我们公司的立身之本。通过搭载 NVIDIA Grace Blackwell 超级芯片的 NVIDIA MGX 机架式解决方案,我们正在帮助客户达到 AI 能力与性能的新高度。”
  • 光宝科技总裁邱森彬表示:“功率管理和冷却解决方案是建立更绿色环保、更可持续的数据中心的核心。随着NVIDIA Blackwell 平台的发布,光宝科技正在推出多款液冷解决方案,帮助 NVIDIA 的合作伙伴打造出更加高效、环保的未来数据中心。”
  • 广达电脑公司董事长林百里表示: “我们正处在一个由 AI 驱动的世界的中心,创新速度前所未有。NVIDIA Blackwell 不止是一个引擎,更是点燃这场工业革命的火花。当下正值定义下一个生成式 AI 时代之际,广达电脑公司十分高兴能够与 NVIDIA 一起踏上这段精彩的旅程。我们将共同塑造和定义 AI 的一个新篇章。”
  • Supermicro 总裁兼首席执行官梁见后表示:“凭借我们的积木式架构和机架扩展级液冷解决方案,再加上我们的自主工程能力和每月 5000 个机架的全球产能,Supermicro 能够向全球 AI 工厂快速交付各种基于 NVIDIA AI 平台的、创新变革性的产品。我们的液冷或风冷型高性能系统以机架为单位而设计,并针对搭载 NVIDIA Blackwell 架构的所有产品进行了优化,从而为客户提供无比强大的平台选择,以满足他们对新一代计算的需求。这也是我们朝着未来 AI 所迈出的一大步。”
  • TSMC 首席执行官魏哲家表示:“TSMC 通过与 NVIDIA 的密切合作,推动半导体极限创新,以实现其 AI 愿景。我们凭借业界领先的半导体制造技术,助力于 NVIDIA 打造出开创性的 GPU产品,当然也包括基于 Blackwell 架构的 GPU。
  • 纬创资通首席执行官林建勋表示:“纬创资通作为 NVIDIA 重要的制造合作伙伴,与 NVIDIA 一起走过了一段精彩纷呈的旅程,共同为客户提供 GPU 计算技术和 AI 云解决方案。现在,我们正在使用 NVIDIA 最新的 GPU 架构和参考设计,比如 Blackwell 和 MGX,将大量新 AI 计算产品快速推向市场。”
  • 纬颖总裁林威远表示:“纬颖专注于满足客户在生成式 AI 时代对海量算力和先进冷却解决方案方面日益增长的需求。凭借基于 NVIDIA Grace Blackwell 和 MGX 平台的最新产品线,我们正在构建优化的机架级液冷型 AI 服务器,专为超大规模云服务提供商和企业高要求的工作负载量身打造。”

 

NVIDIA NIM 革命性地改变模型部署,将全球数百万开发者转变为生成式 AI 开发者

 

全球 2,800 万开发者现可下载 NVIDIA NIM™——一种推理微服务,通过经优化的容器的形式提供模型——以部署在云、数据中心或工作站上。借助 NVIDIA NIM,开发者能够轻松地为 copilots、聊天机器人等构建生成式 AI 应用,所需时间从数周缩短至几分钟。

 

这些新的生成式 AI 应用正变得越来越复杂,通常需要使用具有不同功能的多个模型来生成文本、图像、视频、语音等。NVIDIA NIM 提供了一种简单、标准化的方式,将生成式 AI 添加到应用中,显著提高了开发者的工作效率。

 

NIM 还可使企业能够最大限度利用其基础设施投资。例如,相较于未使用 NIM 的情况下,在 NIM 中运行 Meta Llama 3-8B 时,后者在加速基础设施上可产生高达 3 倍的生成式 AI token。这使企业能够大幅提高效率,使用相同的计算基础设施来生成更多的结果。

包括 Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家技术合作伙伴正在将 NIM 集成到他们的平台中,以加快特定领域应用的生成式 AI 部署,例如 copilot、代码助手和数字人虚拟形象。从 Meta Llama 3 开始,在 Hugging Face 上现已开始提供 NIM。

 

NVIDIA 创始人兼首席执行官黄仁勋表示:“每个企业都希望在其运营中融入生成式 AI,但并非每个企业都拥有专门的 AI 研究团队。NVIDIA NIM 可被集成到任意平台中,任何地方的开发者都可以访问,并且可以在任意环境中运行——它正在助力科技行业将生成式 AI 普及到每一个企业组织。”

 

通过 NVIDIA AI Enterprise 软件平台,企业可以使用 NIM 在生产系统中部署 AI 应用。从下个月开始,NVIDIA 开发者计划的会员可以免费使用 NIM,在其选择的基础设施上进行研究、开发和测试。

 

40 余个 NIM 微服务为跨模式的生成式 AI 赋能

 

NIM 容器是预构建的,以加速模型部署,可用于 GPU 加速推理,其中包括 NVIDIA CUDA® 软件、NVIDIA Triton 推理服务器™和 NVIDIA TensorRT™-LLM 软件。

 

在 ai.nvidia.com 网站上,超过 40 个 NVIDIA 及社区模型可作为 NIM 端点进行体验,其中包括 Databricks DBRX、谷歌开放模型 Gemma、Meta Llama 3、微软 Phi-3、Mistral Large、Mixtral 8x22B 和 Snowflake Arctic。

 

开发者现在可以从 Hugging Face AI 平台上,访问 Meta Llama 3 模型的 NVIDIA NIM 微服务。通过基于 NVIDIA GPU 的 Hugging Face 推理端点,只需点击几下,开发者就能在其选择的云平台上轻松地访问和运行 Llama 3 NIM。

 

企业可以使用 NIM 来运行用于生成文本、图像和视频、语音以及数字人的应用。借助面向数字生物学的 NVIDIA BioNeMo™ NIM 微服务,研究人员可以构建新的蛋白质结构,加速药物研发。

 

数十家医疗公司正在一系列应用中部署 NIM,以便在手术规划、数字助手、药物研发和临床试验优化等一系列应用中为生成式 AI 推理提供动力。

 

借助全新的 NVIDIA ACE NIM 微服务,开发者可以在客户服务、远程医疗、教育、游戏和娱乐等应用中,轻松构建和操作栩栩如生的交互式数字人。

 

数百家 AI 生态系统合作伙伴已嵌入 NIM

 

包括 Canonical、Red Hat、Nutanix 和 VMware(已被博通收购)在内的平台提供商已在开源 KServe 或企业解决方案方面支持 NIM。AI 应用公司 Hippocratic AI、Glean、Kinetica 和 Redis 也在部署 NIM 来支持生成式 AI 推理。

 

领先的 AI 工具和 MLOps 合作伙伴(包括亚马逊 SageMaker、微软 Azure AI、Dataiku、DataRobot、deepset、Domino Data Lab、LangChain、Llama Index、Replicate、Run.ai、Saturn Cloud、Securiti AI 和 Weights & Biases)也已将 NIM 嵌入到其平台,使开发者能够通过优化推理来构建和部署特定领域的生成式 AI 应用。

 

全球系统集成商和服务交付合作伙伴埃森哲、德勤、Infosys、Latentview、Quantiphi、SoftServe、塔塔咨询服务(TCS)和威普罗(Wipro)已经建立了 NIM 能力,以帮助全球企业快速开发和部署生产型 AI 策略。

 

企业几乎可以在任何地方运行支持 NIM 的应用,包括在全球基础设施制造商思科、戴尔科技、慧与、联想和超微,以及服务器制造商永擎电子、华硕、技嘉、鸿佰科技、英业达、和硕、QCT、纬创资通和纬颖科技的 NVIDIA 认证系统™ 上运行。NIM 微服务也已集成至亚马逊云科技、谷歌云、Azure 和 Oracle 云基础设施中。

 

行业巨头通过 NIM 加强生成式 AI

 

行业领导者 Foxconn、和硕、Amdocs、劳氏公司、 ServiceNow 和西门子利用 NIM 来加强生成式 AI 应用,涉及制造业、医疗、金融服务、零售、客户服务等领域:

  • Foxconn——作为全球最大的电子制造商,Foxconn 正在使用 NIM 开发针对特定领域的大语言模型(LLM),并将这些模型嵌入到其 AI 工厂的各种内部系统和流程中,用于智能制造、智慧城市和智能电动汽车。
  • 和硕——这家台湾电子制造公司正在将 NIM 用于 Project TaME,这是一个当地的混合专家(MoE)模型,旨在推动各行各业开发本地化的 LLM。
  • Amdocs——这家为通信和媒体公司提供软件和服务的全球领先供应商正在使用 NIM 运行客户计费 LLM,该模型显著降低了 token 成本,将准确性提高了 30%,并将延迟降低了 80%,从而实现近乎实时的响应。
  • 劳氏公司——这家《财富》杂志 50 强家居装饰公司正在将生成式 AI 用于各种用例,例如,该零售商正在利用 NVIDIA NIM 推理微服务来提升员工和客户的体验。
  • ServiceNow——这个用于业务转型的 AI 平台于今年早些时候宣布成为首批接入 NIM 的平台提供商之一,帮助客户实现快速、可扩展且更具成本效益的 LLM 开发和部署。NIM 微服务已经集成到 Now AI 多模态模型中,可供添加了 ServiceNow 的生成式 AI 功能 Now Assist 的客户使用。
  • 西门子——作为专注于工业、基础设施、交通和医疗领域的全球科技公司,西门子正在将其运营技术与 NIM 微服务整合,用于车间 AI 工作负载。此外,西门子还利用 NIM 为其 Machine Operators 构建了一个本地部署版本的 Industrial Copilot。

 

可用性

 

开发者可在 ai.nvidia.com 网站上免费试用 NVIDIA 微服务。企业可通过在 NVIDIA 认证系统和领先的云平台上运行的 NVIDIA AI Enterprise 来部署生产级 NIM 微服务。从下个月开始,NVIDIA 开发者计划的会员将能够免费使用 NIM 来进行研究和测试。

 

NVIDIA 面向生成式 AI 打造强大的以太网网络

 

 

NVIDIA Spectrum™-X 以太网网络平台已被业界广泛使用,并且将进一步加快新品发布计划。

率先采用 NVIDIA Spectrum-X 的 AI 云服务提供商有 CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta 等,他们的 AI 基础设施因此而获得了超强网络性能。另外,继戴尔科技、慧与、联想和超微等将 Spectrum-X 平台整合到他们的产品中后,又有多家 NVIDIA 合作伙伴也发布了基于 Spectrum 的产品,包括永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、纬创(Wistron)和纬颖科技(Wiwynn)等。

 

NVIDIA 网络高级副总裁 Gilad Shainer 表示:“生成式 AI 等开创性技术的飞速发展,使每家企业都必须把网络创新放在第一位,从而获得竞争优势。NVIDIA Spectrum-X 是对以太网络的一次革命,让企业能够充分利用其 AI 基础设施的强大力量来改变其运营方式,甚至颠覆他们的行业。”

 

每年发布新产品

 

Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将生成式 AI 网络性能较传统以太网网络平台提升 1.6 倍。为了满足业界对 Spectrum 性能的巨大需求,NVIDIA 创始人兼首席执行官黄仁勋在今天的 COMPUTEX 主题演讲中宣布,NVIDIA 计划每年都推出新的 Spectrum-X 产品,为客户提供更高的带宽、更多的端口、更加强大的软件功能集与可编程能力,不断提高领先的 AI 以太网网络性能。

 

Spectrum-X 配备 NVIDIA Spectrum SN5600 以太网交换机和 NVIDIA BlueField® -3 SuperNIC,是一个兼顾了生成式 AI 云所需高性能和各种云功能的端到端平台。该平台通过动态路由技术和拥塞控制技术实现了带宽的最大化和噪声隔离,为 AI 业务提供了最强性能的 AI 以太网网络,在同时运行数千个不同规模的 AI 作业时,能确保每个业务达到预期的性能。

与 NVIDIA BlueField-3 DPU 的结合,该平台可实现先进的多租户云、GPU 弹性计算和零信任安全。有了它,云服务提供商可以加快 AI 解决方案的开发和部署,获得更高的投资回报。

0
收藏
0