• 高通® AI Hub现已在中国市场推出，助力合作伙伴和开发者面向智能手机、PC、物联网设备及其他终端形态在中国市场打造终端侧生成式AI和智能体AI体验。
• 该平台集高通AI Hub Models、高通AI Hub Workbench、高通AI Hub Apps和GenieX于一体，为开发者提供超过230个预优化模型，其中也包括中国市场模型。
• 高通AI Hub通过官网、高通终端云中国（QDC China）设备农场、技术和开发者论坛等方式，为中国AI开发者社区提供支持并提供各类预优化模型。
高通技术公司今日宣布，高通® AI Hub现已面向中国开发者开放，为开发者提供用于构建和部署终端侧AI的平台。高通AI Hub集高通AI Hub Models、高通AI Hub Workbench、高通AI Hub Apps以及面向终端侧生成式AI推理的GenieX于一体，这些工具能够帮助开发者进行模型探索、模型优化并实现应用集成，以及在智能手机、PC、物联网设备和其他形态上的终端侧部署。
高通技术公司执行副总裁兼技术规划、边缘解决方案和数据中心业务总经理马德嘉博士表示：
高通AI Hub汇集了面向模型探索、优化、应用集成以及在支持高通® 平台上进行终端侧部署的工具。借助高通AI Hub Models、Workbench、Apps和GenieX，开发者能够评估模型性能，并将AI功能集成到在支持设备上运行的应用中。我们很高兴向中国开发者开放这些工具，充分发挥终端侧AI在响应速度、可靠性和隐私方面的优势。
全新高通AI Hub中国版提供超过230个并持续扩展的预优化模型库。开发者可以浏览模型、比较模型在支持的设备及运行时上的性能指标，并下载模型以集成至应用中。面向中国市场的高通AI Hub Models能够充分利用高通® AI引擎中CPU、GPU和NPU的硬件加速能力，优化模型在终端侧的性能、内存利用和能效。
高通AI Hub Workbench允许开发者导入自有模型，在真实的云托管设备上进行优化、量化、编译、性能分析和验证。开发者可以选择偏好的骁龙® 以及高通跃龙™平台和运行时，评估模型性能，并生成经过优化的资源，以集成至终端侧应用中。它还支持使用高通AI引擎Direct SDK的部署工作流，有助于缩短产品上市时间，发挥终端侧AI部署的诸多优势，比如即时性、可靠性、隐私、个性化和成本优势。
高通AI Hub Apps提供示例应用和参考代码，助力开发者学习如何将高通AI Hub Models集成至应用中，配置支持的运行时，并实现优化的端侧性能。针对生成式AI开发，GenieX是一款终端侧生成式AI推理运行时，可通过命令行、Python和Java API等开发者接口，让开发者在NPU、GPU和CPU上本地运行并集成模型。开发者可根据模型、应用和部署需求，单独使用或组合使用上述工具。
高通AI Hub中国版还通过官网、高通® 终端云（Qualcomm® Device Cloud）中国设备农场和开发者论坛等方式提供各类资源与支持。请访问【阅读原文】进入高通AI Hub中国版官网。
*骁龙、高通以及其他Snapdragon与Qualcomm旗下的产品系高通技术公司和/或其子公司的产品。
*高通、高通跃龙和骁龙是高通公司的商标或注册商标。
全部评论