关闭广告

NYU研究揭示:模型宽度与能力非线性相关

科技行者2025-10-28 00:00:01309人阅读


当我们使用ChatGPT或其他大语言模型时,可能很少想过这样一个问题:这些模型内部那些看似强大的组件,真的在高效地工作吗?就像一家大公司虽然员工众多,但可能存在大量的"摸鱼"现象一样,人工智能模型内部也可能存在类似的资源浪费问题。

纽约大学的研究团队Nandan Kumar Jha和Brandon Reagen在2025年10月发表的这项研究,就像给大语言模型做了一次"内部审计",专门检查模型中一个关键组件——前馈网络的工作效率。这项发表在arXiv预印本平台的研究(论文编号:arXiv:2510.00537v1),首次系统性地揭示了一个令人意外的现象:当我们让这些网络变得更宽时,新增的容量大多数都被浪费了。

这就好比一个餐厅的厨房,老板以为增加更多的炉灶就能提高出菜效率,但实际情况却是新增的炉灶大多数时间都在闲置,真正发挥作用的仍然是那几个核心炉灶。研究团队通过一套巧妙的"检测工具",发现了大语言模型中存在的这种"不对称浪费"现象,这个发现可能会彻底改变我们设计和优化人工智能模型的方式。

一、什么是前馈网络,为什么它如此重要?

上一页 下一页
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

特朗普访日 高市早苗将罕见与其共同搭乘美国总统专机

新京报 浏览 305 10-28

印航空难机长被指有精神健康问题 印航回应

红星新闻 浏览 2747 07-15

见过世面的女人,都会避开“大妈装”与“超短裤”,大方得体

静儿时尚达人 浏览 499 08-15

为什么小米YU7会放弃SU7的400V快充?

车有梗 浏览 6346 07-05

美前财长:特朗普的经贸政策只有一个赢家 那就是中国

澎湃新闻 浏览 4190 08-09

中报喜增 杭州银行赢在战略蓄力 还有啥短板?

铑财 浏览 8706 07-24

上海、浙江沿海将遭遇海啸与台风双重灾害影响

澎湃新闻 浏览 3531 07-31

阿富汗6级地震数千死 村民17名家人被埋:以为世界末日

中国新闻周刊 浏览 483 09-10

OpenAI罕见开源两款模型,奥特曼:这是耗费数十亿美元的成果

网易科技报道 浏览 6957 08-06

章泽天晒与杨紫琼合影 一起合照搞怪表情好有趣

笑猫说说 浏览 503 08-24

消息称三星Galaxy S27 Ultra将搭载更安全的Polar ID面部识别技术

IT之家 浏览 300 02-03

在南京高淳,年轻人为什么能“横”着走?

无相商业趋势 浏览 550 08-14

7000万欧!英媒:切尔西有意哈维-西蒙斯 已就个人条款达成一致

直播吧 浏览 4596 07-29

新势力们可以摸着韩国车的石头过河,从帕里斯帝上可以学到什么?

驾仕派 浏览 481 09-01

被指严重影响美国空军更新换代 F-35又被点名了

枢密院十号 浏览 490 09-16

陪爱妻方媛奔丧才几天,郭富城竟再迎一大噩耗

汉字笔迹心理分析 浏览 83 05-28

比阔腿裤还时髦!今年夏天一定要有“这条裤子”,复古又好看

LinkFashion 浏览 5225 07-06

王晶揭露谢霆锋张柏芝离婚内幕

新语爱八卦 浏览 409 08-19

小米推出旗下首款 Google TV 流媒体电视棒

IT之家 浏览 7208 07-25

惨!《脱缰者也》上映一天就被判死刑,网友给出的评论太解气了

娱乐圈笔娱君 浏览 496 08-26

胡塞武装称袭击以色列多处目标 致其“航班中断”

环球网资讯 浏览 1451 07-17
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-11