• 基于重排序的新量化方法RPTQ:实现大型语言模型的 3 比特量化

      机器之心专栏   机器之心编辑部   作者提出了一种新颖的基于重排序的量化方法 RPTQ,解决了量化大型语言模型激活的问题。   大型语言模型(LLMs)在各种任务上表现出色,但由于其庞大的模型规模,部署方面存在挑战。   在这篇论文中,来自后摩智能、腾讯 AI Lab、华中科技大学、北京大学、伊利诺伊理工学院的研究人员发现量化大型语言模型的主要挑战来自于通道之间不同的激活范围,而不仅仅是离群

    量化

    机器之心 . 2023-04-09 3176

  • 科技企业地图发布:广东科技企业数量最多

      3月28日,合合信息旗下启信宝发布《科技企业地图(全国篇)》报告,通过大数据量化评价方法,从技术创新、科技资质、研发实力、企业成长性与行业潜力五个大类维度,20+细分维度,洞悉全国以及重点城市科技企业的实力、分布和发展潜力。   报告显示,近年来中国科技实力快速提升,创新环境显著改善,全国科技企业主要集中在科学研究与技术服务业、制造业、信息传输和软件服务等技术密集型企业;从地域分布上看,地域分

    广东

    广州日报 . 2022-03-28 1710

  • 1