天玑9300成功适配大模型“通义千问”,可离线运行多轮AI对话

来源: 芯查查资讯 2024-03-28 09:46:53
相关专题
#生成式AI:LLM与算力芯片
大模型端侧部署推动AI手机发展

3月28日消息,MediaTek联发科已成功在天玑9300等旗舰芯片上部署通义千问大模型,首次实现大模型在手机芯片端深度适配。通义千问在离线情况下运行多轮AI对话。阿里云方面表示,将和联发科深度合作,向全球手机厂商提供端侧大模型解决方案。

通义千问目前已开源 18 亿、70 亿、140 亿、720 亿参数等大语言模型,以及视觉理解、音频理解多模态大模型。阿里云在去年 10 月还发布了通义千问 2.0,模型参数达到千亿级别。

联发科自己也在研发大语言模型,曾推出开源的 MR Breeze-7B 模型,擅长处理繁体中文和英文,共有 70 亿个参数,以 Mistral 模型为基础进行设计。

0
收藏
0