• ExecuTorch 测试版上线,加速 Arm 平台边缘侧生成式 AI 发展

    通过 Arm 计算平台与 ExecuTorch 框架的结合,使得更小、更优化的模型能够在边缘侧运行,加速边缘侧生成式 AI 的实现。   新的 Llama 量化模型适用于基于 Arm 平台的端侧和边缘侧 AI 应用,可减少内存占用,提高精度、性能和可移植性。   全球 2,000 万名 Arm 开发者能够更迅速地在数十亿台边缘侧设备上大规模开发和部署更多的智能 AI 应用。    Arm 正在与

    ARM

    Arm社区 . 2024-11-08 1040

  • ExecuTorch测试版上线,加速Arm平台边缘侧生成式AI发展

    Arm 正在与 Meta 公司的 PyTorch 团队携手合作,共同推进新的 ExecuTorch 测试版 (Beta) 上线,旨在为全球数十亿边缘侧设备和数百万开发者提供人工智能 (AI) 和机器学习 (ML) 功能,进而确保 AI 真正的潜力能被最广泛的设备和开发者所使用。     借助 ExecuTorch 和新的 Llama 量化模型,Arm 计算平台优化生成式 AI 性能 Arm 计算平

    arm

    arm . 2024-11-04 1240

  • 1