本次分享中，芯闻路1号有幸邀请到飞腾AI高级解决方案经理-谷潇聪先生。

谷潇聪先生将为我们重点分享的主题是：“大模型中的国产算力”，下面是谷潇聪先生的精彩发言：

ChatGPT将人工智能发展推向更高层级，其背后的“大模型”是指大型语言模型，也是当下AI和自然语言处理（NLP）研究和产业的重要方向。

可以看到随着大模型数据量的逐步扩展，其训练时间、成本和算力需求越来越高。怎么样在单位时间内训练出更好的模型？这是大家一直期盼想要解决的一个问题，所以对算力提出了更高的要求，CPU作为算力的一个基础，更是大模型中必不可少的一部分。

习总书记在滨海新区提出：“你们做的工作很重要，是解决国家卡脖子的问题，希望你们继续进行技术创新，将核心技术掌控在自己手里。”

目前，国家大力发展信息安全产业，打造自主研发的国产CPU，在该领域，飞腾不断夯实核心技术和生态，产品系列持续完善，其产品谱系包括高性能服务器CPU飞腾腾云S系列、高效能桌面CPU飞腾腾锐D系列、嵌入式CPU飞腾腾珑E系列、飞腾套片。经历多年的发展，飞腾已形成了“从端到云、按需定制、安全可信、开放合作”的16字产品技术发展方针。

飞腾全新推出的嵌入式CPU飞腾腾珑E2000采用大小核柔性设计，兼顾性能和功耗，可用于发电、输电、工业领域等等场景，最低功耗可以达到1.5W，满足端侧场景添加AI功能。基于自研CPU，飞腾希望打造整体的人工智能架构，与合作伙伴也衍生出各种各样的AI产品，包括最底层的服务器、一些终端的公共机，还有智能网卡，端侧的机器人等各种各样的产品。

飞腾构建健全生态，与20多个厂家的60多款AI加速卡完成适配，通过CPU+GPU异构形式支撑各种场景的AI算力需求，不仅满足大模型训练需要，而且在云、边、端、云边协同、边端协同等方面都有相应的场景落地，并有丰富的解决方案。客户覆盖交通、电力、能源、智能制造、金融、保险、教育等行业，飞腾可通过AI技术与其它技术的融合满足各行业的发展需求，赋能行业智能化升级和发展。

飞腾的典型落地项目有：银行AI一体机、安防设备、交通集中指挥平台、海洋鱼类探测器、大模型平台、智能会议系统、教学智能开发板、智慧教室、巡检机器人、便携式会议一体机、安防一体机、风功率预测系统、智慧电厂、虹膜识别系统、智能质检设备、自动驾驶设备、智慧港口、智慧加油站等等。

为了加速AI应用落地，飞腾建立的AI实验室致力于打造具有IaaS、PaaS、SaaS能力的全栈式AI云系统与服务，帮助行业用户和生态伙伴抢抓AI机遇。据介绍，飞腾AI实验室现在有100多家成员，飞腾平台同时适配各种软件栈、计算框架，满足开发者需求。针对重点项目，飞腾可以提供技术攻关支持；对产品进行认证；联合合作伙伴申报课题；为了让产业更加合规、快速发展，飞腾还与合作伙伴参与国标标准的制定。

目前已经有推出大模型国产算力云平台开放实验室演示系统，制作了一些基于飞腾CPU与中国电子云数字底座的大模型，用于AIGC文生图演示，已经有一些生态伙伴在国产算力平台上开始测试，同时许多正在萌发的这些项目也让大家看到了很多机会，也希望大家能一起共建国产算力的生态圈，推进整个行业的国产化，让大模型更安全更便捷。

芯闻路1 号：十分感谢飞腾所带来的精彩分享，也对国内的大模型生态圈寄予厚望，希望在不远的将来，我们可以共同见证这一产业的兴盛与成就。

精彩回顾请点击此处文字，即可跳转观看完整版研讨会。