3月28日，芯闻路1号研讨会举办的“芯片，ChatGPT幕后英雄”主题直播圆满完结。
本次研讨会围绕近期热点ChatGPT为代表的人工智能展开深度探讨。ChatGPT的一炮而红离不开芯片所带来的其底层运转基础，诸如此类CPU、GPU、FPGA等AI芯片承担着人工智能应用的每一次运转指令、每一次深度学习的算力依赖。
在上述背景下，芯闻路1号有幸邀请到了原厂、应用层、产业专家三个维度，共4位嘉宾作主题分享，帮助大家深入了解AI及国产AI芯片产业，前瞻未来格局，并安排充裕时间进行相互交流。
下面为大家截取了直播中圆桌讨论的精彩瞬间，文末还有完整的直播回放，错过直播的小伙伴可以一键直达~
圆桌讨论
Q1：听到有种说法是：“芯片算力离不开精度。”算力和精度两者是怎样的关系？在人工智能领域（如神经网络计算）里，二者关系是怎样体现的？算力越大，芯片性能就越好吗？
陈前华：
1.我觉得算力和精度是两个维度的事。算力大指每秒钟能执行的浮点或整型计算的次数多。这样执行任务的速度就快。但是计算时，芯片运算的精度有多种。
2.大模型的训练，就必须用高精度才行，因为训练时每个梯度调整都会是一个极小的数值，极细微的调整。低精度区分不了数值的大小。
3.推理的时候所需要的精度可以降低很多。
付伟：
算力与梯度之间的配合十分重要，精度还是依赖于算力的。个人的建议就是在以后的发展方向中，算力与精度要配合得当才能实现又快又好。
Q2：Open AI使用了大量的分布式计算，在全球很多国家都部署了智算中心，每个算力中心只处理一部分的任务或数据，最后再将各算力中心处理的结果传回自己的终端服务器上。这种超大参数量的计算，对于服务器来说最关键的是什么？ChatGPT流量激增，对于服务器来说是否迎来了更为重要的发展机遇？
申友志：
ChatGPT这一类程序运行是很吃算力的，其本身的训练主要通过CPU，所以对于服务器要求会很直接。
首先要有高性能。服务器要能支撑大规模的训练和广维度，因为它需要高速的网络连接和低延迟，不可能一个节点计算完了，等待另一个节点再计算完。此外，网络延迟会直接影响训练的效率和质量。
其次，服务器要足够可靠。谨慎长期训练后发生致命损害的可能，要有一定的容错机制，整机的可靠与数据的安全也十分重要，这里强调的是服务器本身或是维修人员的防御机制一定要强；模型分布与资源分配也很重要。整体需要既灵活又可靠。同时，现在ChatGPT话题十分火爆，在回复效率很低的情况下，它原本具有的市场竞争力将会直线下降，所以也强调了会务及时性与处理高效率，这个部分对我们的算法有了要求。对算法有需求，对算力有更高的要求。
唐蕾：
首先我们要肯定这与大算力支持是脱不了关系的。比如说从ChatGPT到GPT-4，模型参数都呈指数级的增长，增长所带来的质的飞跃需要这个大规模的并行计算。关键点是，GPU的交换效率，那里面涉及到GPU存储内存的容量。比如说像英伟达NVIDIA V100内存是32G，A100则达到80G。整个内存容量的提升会对整个算力提升起到基础支撑的作用。另外一方面，这些上万的GPU需要运行在一个大规模的集群中，并且可以基于这个集群去进行模型的训练。所以整个集群的构建以及网络的吞吐能力也十分重要，包括这个服务的架构也是非常关键的
Q3：上周我有关注到一个新闻，浙江宣布要将人工智能加入到中小学基础课程和必修课程，对于AI芯片国产化的进程来说，这一举措有什么现实意义吗？
付伟：
有必要，是重要的影响，知识传播变得更唾手可得，将会激起更多创新与发展的潜力。好的问题，好的想法以及良性的规划是需要从小开始培养的，将人工智能更好的融入生活，服务生活。
陈前华：
将AI课程提前到中小学进行，这个对AI的普及有一定的推动作用。这样的话，这些孩子相当AI原生的一代，他们从小对AI习以为常，就会理解AI芯片的需求来自哪里。这对AI芯片国产化来说有促进作用。
另外对AI技术的掌握的群众基数大，自然会冒出优秀的开发人才来。就象中国足球一样，不行是因为踢球的人太少了，我们AI的人多，自然就会冒出更多AI芯片人才来。
唐蕾：
中美贸易对开，对华断供的背景之下是非常有意义。从历史借鉴中可以得出，若人工智能的兴趣能在儿时被建立，那么后期的拓展教育也将更迅速。小学生作为未来市场的新鲜血液，能为未来产业的主体性打好基础。
Q4：像《流浪地球》《星际穿越》等影视作品里，我们看到人工智能够形成自我意识。虽然我们对于AI领域的认识尚浅，但未来是否真的会有像影视剧那样的“人类大战AI”的场景出现？
付伟：
其实国外也有教授有发表过类似的观点文章，目前这个事情无法下确切的定论，但是人工智能会不会在基础理论上有一些突破呢？ AI本身主要基于已有的一些规则，然后使用数据、算力来突破。而算力数据始终离不开数据库的补给，即离不开外界信息。虽然目前无法判断这种局限在未来会不会逐步脱离，但基于人工智能的需求跟目前人类对能源的需求，即有主观性的需求是不一样的。如果现在去看十几年前或者更早时候的科幻电影，很多电影最后的确是有将科幻变成现实的含义，这里也留下了很多对未来人工智能的发展思考。
Q&A环节
那么最后我们也就用户的提问参与了讨论：
Q&A-1：AI的大模型将在多久能服务与个人用户，那么嘉宾也为我们给出了专业的见解：
申友志：科研用比较多，推理部署会成本较高。产业发展后成本将逐步下降，不太好确定，但仍希望能尽快推动。
Q&A-2：将如何看待ChatGPT将会代替许多人工岗位呢？是好还是不好呢
陈前华：我认为人才市场可能要接受命运的选择，原本熟悉的生态环境可能会因科技的急速发展产生变化，而对于现代社会来说，其实每个十年，人们都需要重新学习重新更替换代的。一代人有一代的机遇，一代人有一代人的难处。
Q&A-3：ChatGPT有没有可能让现在疲软的消费市场重新振兴？
唐蕾：可能会刺激消费市场的增长，可以反向形成良性的竞争趋势，使得各个产品中彼此督促彼此攀升，对于市场未来发展也是一个良好的发展趋势。
以上是我们本期精彩圆桌讨论环节中的一部分，更多精彩问答可在完整直播回放中观看。点击图片即可跳转
全部评论