OpenAI重磅研究！用GPT-4解析GPT-2样本，开启AI思考之门
当ChatGPT引发中美科技行业狂热之后，它的缔造者美国OpenAI公司如今又在人工智能（AI）可解释性研究领域获得重大突破。 钛媒体App 5月10日消息，OpenAI今晨发布一个关于GPT-4语言模型解析神经元的对齐性研究成果，利用自研基于GPT-4技术的开源工具，来尝试计算其他架构、更简单语言模型上神经元的行为并对其进行评分，而且可以将其应用于另一种语言模型中的神经元——本次选
人工智能
钛媒体APP . 2023-05-10 1 1 2155
哈佛、宾大等多所机构研究者联合综述：大规模预训练语言模型进展
机器之心专栏 机器之心编辑部 本文介绍了一篇基于大规模预训练语言模型（PLM）来做 NLP 的综述论文。读者将从这篇论文中找到适合不同 NLP 任务的方法。 近年来，基于大规模语言模型的方法在很多 NLP 任务上都取得了比传统方法更好的性能。近日来自 Raytheon BBN、哈佛大学、宾夕法尼亚大学等学校和研究机构的知名 NLP 学者联合编写了一篇综述论文，介绍了基于大规模预训练
预训练语言模型
机器之心 . 2021-11-20 4500
新研究显示人类大脑使用类似AI的自动更正功能来处理语言
我们如何知道说话和阅读？这些基本问题导致了麻省理工学院的新研究，该研究使用AI模型来研究我们大脑如何以及为何理解语言。他们发现，人的大脑可能就像智能手机自动更正功能一样工作。 发表在《美国国家科学院院刊》上的这项新研究显示，这些人工智能语言模型的功能与人脑中的语言处理方法相似，表明人脑可能使用下一个词的预测来驱动语言处理。最近一代的人工智能语言模型被设计为预测文本中的下一个词，就像iMes
人工智能
希恩贝塔 . 2021-10-27 4193
语言模型微调领域有哪些最新进展？一文详解最新趋势
选自ruder.io 作者：SEBASTIAN RUDER 机器之心编译 编辑：小舟 详解 2020 最具影响力的十大 ML、NLP 研究的 DeepMind 研究科学家又来了，这次来讲讲语言模型微调领域的最新进展。 对预训练语言模型（LM）进行微调已成为在自然语言处理中进行迁移学习的实际标准。在过去三年中（Ruder，2018），微调（Howard＆Ruder，2018）已经取代了使用预训练嵌入
语言模型
机器之心 . 2021-05-05 2261
- 1