使用 NVIDIA IGX Orin 开发套件加速边缘 AI 之旅

来源: NVIDIA 2023-04-08 06:50:02

  

  想象一下,你即将开启一生难忘的山地自行车冒险之旅。计划已经完成,相应的训练也基本到位,当下所需要的就是一辆完美的自行车。你需要好的减震器、轮胎、刹车、车架、车把和座椅。假设所有这些部件都集中在一个包裹中,并且预先组装在了一起,从而为你节省时间和花费。

  NVIDIA IGX Orin 为边缘 AI 应用程序开发人员提供了类似的工具包:一个优化的一体式平台。NVIDIA IGX Orin 是第一个将工业级硬件与企业级软件相结合,并支持边缘 AI 管理的平台。

  

  图 1  硬件和企业级软件工作流程,以确保安全的边缘 AI 管理

  NVIDIA IGX Orin 让公司能够转向软件定义的模型,从而提高开发速度、降低成本,而不是浪费宝贵的资源拼凑平台来运行或开发 AI 应用程序。

  NVIDIA IGX Orin 专为工业和医疗环境打造,为开发人员提供边缘 AI 所需的性能、耐用性、安全性和安全功能。

  
 

  NVIDIA IGX Orin 开发套件


一体式  NVIDIA IGX Orin 开发者套件 配有机箱和电源,可帮助启动或加速边缘 AI 应用程序开发,主要功能如下所述。 
 

  
 

  硬件

  
 

  IGX Orin 模块:工业级;已认证就绪

  CPU :12 核 Arm

  GPU :NVIDIA Ampere 1024 CUDA ,64 Tensor

  硬件安全扩展

  功能安全岛

  NVIDIA ConnectX-7 智能网络接口卡(SmartNIC)提供 200Gb/s 的网络速度,非常适合接收高帧率视频

  用于固件更新的 NVIDIA 基板管理控制器(BMC)

  安全 MCU

  与功能安全岛(FSI)和安全扩展包软件携手合作

  监控 IGX 和机箱环境的电压、温度、风扇和速度

  机箱,包括冷却风扇

  电源装置

  附件(用于连接的各种电缆)


 

  软件

  
 

  NVIDIA AI SDK

  • NVIDIA Metropolis 
     

  NVIDIA Holoscan

  安全扩展包

  商业操作系统集成

  Canonical,红帽

  

  更多有关信息,请参阅 NVIDIA IGX product specifications (https://www.nvidia.com/en-us/edge-computing/products/igx/)。
 

  关键用例


许多领先的工业和医疗公司目前正在使用 NVIDIA IGX Orin 将 AI 应用于其运营和解决方案中。 继续阅读,了解更多关于在 NVIDIA IGX 平台上开发的一些关键用例信息。 

 

  工业安全:预防工作场所的险情

  
 

  随着机器与人类互动的增加,特别是在仓库和制造环境中,functional safety 变得至关重要。更多详细信息,请参见全新 NVIDIA IGX 平台帮助创建安全、自动化的未来工厂 (https://blogs.nvidia.com/blog/2022/09/20/igx-industrial-edge-ai/)。

  
 

  Reactive safety 是自主机器的标准规定,当出现安全威胁或事件时,会减慢或关闭机器。这会减轻对相关人员造成的伤害,但停机时间的成本也非常昂贵。

  
 

  除了支持 reactive safety 功能外,NVIDIA IGX Orin 还使公司能够构建 proactive safety,以防止危险事件的发生。Proactive safety 的运作类似早期检测和响应系统,通过控制面板来监督自主机器集群。

  
 

  Proactive safety 包括在事件发生前识别安全隐患,采取适当措施,保护工人,最小化停机时间和相关成本。以下提供了一些 proactive safety 的具体示例。

  
 

  PPE detection:可以训练 AI 模型,以帮助监测和检测个人防护装备(PPE)的适当使用。

  Barrier breaches:启用 AI 的摄像头和传感器可以识别及分类物体和人,以确定是否存在安全或安保威胁,并提示采取适当的安全措施。

  Collision detection:AI 可以分析实时视频和图像处理,以确定机器和人类的运动是否可能导致碰撞,然后采取安全措施避免事故发生。

  
 

  NVIDIA IGX Orin 和 NVIDIA Metropolis SDK 的结合为开发人员提供了强大平台,加速功能安全 AI 应用程序开发,并管理自主机器集群。

  
 

  工业自动化:更快、更准确、更高效的供应链

  
 

  低效的供应链加上劳动力短缺,对公司满足需求和保持客户满意度的能力产生了深远的负面影响。对更高效的供应链的迫切需求,带来了 AI 解决方案的快速发展。

  
 

  例如,履行中心在公司的供应链中发挥着关键作用。使用 NVIDIA IGX Orin 、 NVIDIA Metropolis SDK 和 NVIDIA Omniverse 可以将低效的供应链转化为面向未来、适应性强的运营。可以开发 AI 应用程序以产出高质量的感知数据,为实时决策提供信息,从而提高运营效率。请参阅下面的几个例子。

  
 

  Industrial inspection:AI 模型被训练来检测和分类物体,并识别去除缺陷产品。

  Predictive maintenance:通过对周围环境、故障检测和机器/机器人性能的数据分析,AI 可以预测设备何时可能需要主动维护,以避免停机。

  Field inspection:图像识别和处理与自动报告相结合,使现场检查更加准确、安全和高效。

  
 

  通过分析来自传感器或其他来源的数据,可以在 AI 的帮助下检测甚至消除生产中的瓶颈。


 

  医疗设备:在临床边缘实时处理流式数据
 

  
 

  医疗设备制造商正在采用新的 AI 功能,以加速 TTM 并降低开发和维护成本。利用 AI 计算平台可以在以下方面赋能医疗设备开发人员:

  
 

  更快地训练医学 AI 模型
 

  构建和微调医疗 AI 应用程序

  核实和验证医疗级应用程序

  安全地部署到临床生产

  
 

使用 NVIDIA IGX Orin 和  NVIDIA Holoscan SDK ,开发人员可以大大加快 AI 应用程序和 AI 医疗设备的开发。 NVIDIA Clara Holoscan  是一个在 NVIDIA IGX Orin 上运行的实时 AI 计算平台,用于高精度 AI、高级别安全和 proactive safety。下面列出了 NVIDIA IGX Orin 和 NVIDIA Clara Holoscan 的一些早期用例。 
 

  Ultrasound:AI 应用可以通过改进图像优化、分析和解释来提高超声的准确性,有助于更好地诊断癌症肿瘤或妊娠期异常等疾病。

  Endoscopy:AI 可以帮助提高成像解释的准确性和速度,从而减少医疗专业人员的工作量,并更好地检测情况。了解更多信息,请参阅 AI in Endoscopy: Improving Detection Rates and Visibility with Real-Time Sensing (https://developer.nvidia.com/blog/ai-in-endoscopy-improving-detection-rates-and-visibility-with-real-time-sensing/)。

  Robotic surgery:医疗保健创新者正在探寻 AI 的方式,通过将肉眼无法看到的关键生理结构和功能(如血流)实时可视化,来帮助外科医生避免并发症。一些其他领先的公司则使用 AI 远程连接外科医生,以便合作,带来尽可能好的结果。了解更多信息,请参阅 NVIDIA Medical Edge AI Computing Platform Selected by Top Robotic and Digital Surgery Startups (https://blogs.nvidia.com/blog/2022/09/20/igx-clara-holoscan-edge-ai-robotic-surgery/)。

  
 

  开始着手


无论是在规划阶段、起始阶段,还是在边缘 AI 之旅的中途,NVIDIA IGX Orin 开发套件都会让你更快到达目的地。立即获取  NVIDIA IGX Orin 开发套件  ( https://www.nvidia.com/en-us/edge-computing/products/igx/?nvid=nv-int-tblg-313058#cid=dl23_nv-int-tblg_en-us )。 
 

0
收藏
0