时在中春，阳和方起——机器之心 AI 科技年会本月见
时在中春，阳和方起。原指一派春意融融、到处孕育着希望的新气象。 而用它来形容目前的人工智能好像也很合适，相信绝大部分人工智能从业者会有同感。 于是，我们选择了这句话来作为机器之心 3 月份一场重要人工智能活动的主题，一场久违的活动 —— 机器之心已经几年没有举办完全自主品牌的综合性线下大会，有客观原因，但更多还是因为身为一家创业公司常见的疲于奔命。 尽管已经创立 6 年半，但
机器之心
机器之心 . 2022-03-01 2474
哈佛、宾大等多所机构研究者联合综述：大规模预训练语言模型进展
机器之心专栏 机器之心编辑部 本文介绍了一篇基于大规模预训练语言模型（PLM）来做 NLP 的综述论文。读者将从这篇论文中找到适合不同 NLP 任务的方法。 近年来，基于大规模语言模型的方法在很多 NLP 任务上都取得了比传统方法更好的性能。近日来自 Raytheon BBN、哈佛大学、宾夕法尼亚大学等学校和研究机构的知名 NLP 学者联合编写了一篇综述论文，介绍了基于大规模预训练
预训练语言模型
机器之心 . 2021-11-20 4470
2021 NeurIPS MeetUp China：12月4日北京见
两年疫情，众多学术会议转为线上，我们错过了多少与同行面对面交流的机会？ 为了满足国内 AI 从业者进行学术交流的需求，机器之心从去年开始就在策划一系列免费的线下学术活动，为大家提供自由的学术交流平台。 从 2020 NeurIPS MeetUp、CVPR 2021 论文分享会到ACL 2021 论文分享会，我们的线下学术交流活动获得了国内 AI 从业者的认可与支持，邀请到众多国内顶级
neurips
机器之心 . 2021-10-19 1910
能效提升3倍，登临科技展示国内唯一量产GPU实力
机器之心报道 机器之心编辑部 AI 时代应该构建什么样的 GPU？这家创业公司给出了自己的答案。 去年 5 月，1750 亿参数的超大预训练模型 GPT-3 让世人惊艳，AI 模型体量大规模增长之后产生的效果出乎预料，引发了新一轮的技术发展。今年，一些 AI 模型的体量已经达到了万亿参数，这样的超级模型需要无数 GPU 进行并联计算。 然而不断膨胀的算力需求成为了挑战：摩尔定律已逐渐走向尽头。而在
gpu
机器之心 . 2021-07-16 2250
语言模型微调领域有哪些最新进展？一文详解最新趋势
选自ruder.io 作者：SEBASTIAN RUDER 机器之心编译 编辑：小舟 详解 2020 最具影响力的十大 ML、NLP 研究的 DeepMind 研究科学家又来了，这次来讲讲语言模型微调领域的最新进展。 对预训练语言模型（LM）进行微调已成为在自然语言处理中进行迁移学习的实际标准。在过去三年中（Ruder，2018），微调（Howard＆Ruder，2018）已经取代了使用预训练嵌入
语言模型
机器之心 . 2021-05-05 2241
- 1