关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:01307人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

ChatGPT-5上线遭“滑铁卢” OpenAI回归GPT-4o

财联社 浏览 2003 08-10

水晶专场|| 我最近超爱戴这条!被大家追着问的链接终于来了~

黎贝卡的异想世界 浏览 10644 07-22

刚刚,ACL首届博士论文奖揭晓!半个顶会都是中国人,超51%占比史无前例

新智元 浏览 7097 07-29

解约金4.9亿欧!西媒:马竞无意出售阿尔瓦雷斯,且正在谈续约

直播吧 浏览 506 08-22

要素过多天空预测:阿森纳客负纽卡、利物浦客平、热刺负狼队

直播吧 浏览 400 09-26

红旗首款越野车征名送车

大象新闻 浏览 387 10-13

人类会被困在1nm吗?深度解析光刻机与芯片制程的未来

钛媒体APP 浏览 6299 08-13

官方:原海港、深足康复师克雷顿加盟广州豹,能用汉语沟通

懂球帝 浏览 246 02-04

自俄乌冲突爆发以来 乌首次爆发大规模反政府抗议活动

环球网资讯 浏览 3303 07-24

冲首冠遭重创!马内破门后踩踏对手腹部染红 40岁C罗摊手欲哭无泪

我爱英超 浏览 472 08-20

全国首个开源鸿蒙机器人操作系统 M-Robots OS 正式开源

IT之家 浏览 3946 07-24

南方乳业,千里“取”奶

斑马消费 浏览 4699 07-25

自称宗庆后非婚生子女扎根娃哈哈体系 宗继昌身兼数职

中国商报 浏览 4316 07-15

中国观众认定的烂片,北美观众当成宝,全球破6.9亿夺票房冠军

靠谱电影君 浏览 509 08-17

俄方强势反击,扣押美银行资产以示警告

浏览 1726 07-14

国产飞机C909商业航班成功首飞澳门

界面新闻 浏览 411 09-11

中报喜增 杭州银行赢在战略蓄力 还有啥短板?

铑财 浏览 8706 07-24

柯克案嫌犯遭父"举报"落网 美媒:美国陷入"死循环"

极目新闻 浏览 411 09-14

守护行人安全 四川省人大代表韩华亮建议:制定管理细则,提高电动车违法成本|代表在这里

封面新闻 浏览 266 02-04

以伊冲突细节:以方筹划15年 美以消耗大量"萨德"导弹

齐鲁壹点 浏览 1325 06-30

格罗索:萨索洛对阵国米不会看历史数据 我在国米有许多美好回忆

直播吧 浏览 402 09-21
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11