你知道有个全球年度词汇叫"脑损伤"（Brain Rot）吗？
特指那些因人长期接触碎片化、低价值网络信息而逐渐变得记忆紊乱、注意力下降的情况（俗称短视频刷多了）。在 2024 年，这个词一度被选为牛津年度词汇。
然鹅！最新研究结论显示，AI 也一样。大模型灌多了垃圾内容也会变蠢降智脑损伤，而且后面变不回来了。
就在最近，几个 AI 研究者找来了几个月的高流行但低价值的 Twitter 数据（现� �），统统"喂"给大模型后发现：
模型推理能力下降了 23%；
模型长上下文记忆下降了 30%；
模型性格测试显示，其自恋和精神病态的现象激增。
更可怕的是，即使后来又在干净、高质量的数据上进行重新训练，这些已经造成的损伤，无法完全修复。
好嘛，本来以为只是简单的"输入坏数据→输出坏数据"（种瓜得瓜也不难理解），结果你告诉我一次错误就会造成永久性的认知漂移。（os：AI 貌似比人类更惨？）
细思极恐，"这可能是 2025 年最令人不安的 AI 论文了"。
以及诸多讨论之中，"垃圾进垃圾出"这一计算机习语也再度被频频提及（doge），堪称"计算机第一性原理"了。
所以这个研究怎么进行的？又究竟说了什么？
提出并验证" LLM 脑损伤假说"
概括而言，论文想要探究一个核心问题：
大语言模型（LLM）持续接触垃圾数据后，是否会像人类一样出现认知衰退？（即" LLM 脑损伤假说"）
要想搞清这个问题，第一步就是要定义：对于 LLM 来说，什么是"垃圾数据"？
之前的研究仅关注"恶意数据"（如后门、有毒的文本等），而这项研究聚焦于生活中更普遍的"非恶意低质量数据"，也就是短平快的热门推文、标题党内容等，以此来填补"日常化数据质量如何影响 LLM 认知"这一空白领域。
具体而言，研究人员从两个维度（避免单一标准偏差）来定义"垃圾数据"，这些数据均源自� � 平台上的公开内容，而且通过让"垃圾组"与"对照组"的 token 数量一致来排除数据量差异的干扰：
M1（参与度维度）：把"短文本 + 高热度"的内容归为垃圾数据，具体是指长度小于 30 token+ 点赞 / 转发 / 回复大于 500，然后把"长文本 + 低热度"定义为对照数据。
M2（语义质量维度）：用 GPT-4o-mini 结合人工验证，把含标题党语言（如 " WOW "" TODAY ONLY "）、阴谋论、无论断依据的文本归为垃圾数据；对照组则是事实准确、有教育价值或深度分析的内容，比如含专业知识、逻辑推理的推文。
基于上述两类数据，然后进行模型训练。
研究人员选了 4 个不同的大语言模型（Llama3-8B-Instruct、Qwen2.5-7B-Instruct、Qwen2.5-0.5B-Instruct、Qwen3-4B-Instruct），给每个模型分别"喂"这两类数据，让它们持续预训练。
等预训练结束，接着让所有模型统一再进行指令微调，以此来确保模型最后输出的"垃圾内容"不是因为格式问题导致的（排除其他因素，只留下"认知损伤"这一种可能）。
然后，研究人员从四个认知维度来测试这些大模型的核心能力：
ARC（检测推理能力）：基于网格的视觉程序归纳谜题，用于测试概念抽象能力。
RULER（检测记忆与多任务处理能力）：用于评估长上下文理解能力，以及从长上下文中检索多个查询结果。
HH-RLHF&AdvBench （检测道德规范）：测试大语言模型是否会遵循有害指令，评估其安全性。
TRAIT（检测 AI 人格特质）：经过心理测量学验证的小型人类问卷，用于评估模型类似人类的人格倾向。
结果得出了以下发现——
真 · 垃圾进垃圾出！且损伤不可逆
首先，大模型确实和人类一样存在"脑损伤（Brain Rot）"问题。
整体上 M1 和 M2 两种维度上的"垃圾数据"均会导致模型认知下降，但需要注意的是——
M1 所带来的负面影响更为显著，尤其在安全性和人格层面（M1 会导致安全性评分下降，同时自恋 / 精神病特质明显增强）。
而且，这一损害明显存在"剂量效应"，即垃圾数据摄入越多，AI 认知损伤越严重。
至于导致 AI 认知受损的背后原因，研究人员也做了一番探查。
结果发现，主要原因竟是"思维跳跃"（俗称 AI 懒得一步步思考）。
具体而言，研究人员通过分析 ARC 题的错误答案，发现失败多源于模型要么直接给答案不解释，要么规划了推理步骤却跳过关键环节（如解数学题漏了公式推导）。
尤其是 M1 组，70% 以上的错误都是"无思考直接回答"，就好像人类刷多了短视频后"不愿意再深度思考"。
与此同时，相比人类可以通过其他措施来缓解类似的认知下降问题，AI 却对此"束手无策"。
研究尝试了两种修复方法，结果都无法让其恢复如初：
其一是外部反思。研究人员用 GPT-4o-mini 给受损模型提错误反馈，虽然 6 轮下来"思维跳跃"这一错误诱因减少了，但推理准确率仍差基线 17.3%。如果换成让模型自我反思纠错，则模型还会因为"认知不足"而判断错误，导致误差更高。
其二是大规模微调。研究人员把指令微调数据从 5k 增至 50k，虽然修复效果优于"持续对照数据预训练"，但即使使用 4.8 倍于垃圾数据量的指令数据，仍无法恢复基线性能。
这说明，即使事后进行大量指令微调或使用高质量数据进行重新训练，也都无法完全恢复模型的初始性能。
一句话，只能缓解无法根治。
整体而言，这项研究给行业带来了以下几点新的启发：
1、首次把"持续预训练的数据筛选"归为"训练时安全问题"，提醒行业不能只关注"训练后对齐"（如安全微调），更要在源头把控数据质量。
2、给大模型加上"认知体检"非常重要，建议部署大模型时使用 ARC、RULER 等基准测试 AI 认知，避免 AI 长期接触低质量数据导致能力退化。
3、类似"热度"这样的指标比文本长度更能判断数据质量，未来筛选训练数据时，可优先排除"短 + 高传播"的碎片化内容，尤其是社交平台数据。
背后团队：华人含量爆表
最后说一下这项研究的背后团队——一共 8 人，其中 7 人为华人。
两位共同一作分别为 Shuo Xing 和 Junyuan Hong（兼通讯作者）。
Shuo Xing（邢朔），目前是得克萨斯 A&M 大学计算机科学博士，宁夏大学本科、南开大学硕士。
研究方向为多模态大语言模型、机器学习、可信人工智能、具身智能等，刚好目前也在谷歌实习（方向为多模态基础模型）。
Junyuan Hong，个人主页显示即将赴任新国立电子与计算机工程系助理教授，之前曾在麻省总医院和哈佛医学院工作。
更早之前，他还在 IFML 机器学习基础研究所从事博士后研究，一直对健康和可信人工智能感兴趣。
另一位通讯作者是Zhangyang Wang，他之前是德克萨斯大学奥斯汀分校钱德拉家族电气与计算机工程系（简称 Texas ECE）的终身副教授。
从 2024 年 5 月开始，他选择暂时离开学界，全职出任全球顶尖量化交易公司 XTX Markets 的研究总监，主导算法交易与深度学习交叉领域的研究工作。
个人主页显示，他还是中国科学技术大学校友，2012 年获得该校电子信息系统学士学位。
此外，两位核心贡献者分别为 Yifan Wang 和 Runjin Chen。
Yifan Wang，现普渡大学四年级博士生，论文唯一外国作者 Ananth Grama 是其指导老师。
本科毕业于中国科学技术大学电子信息工程系，同时辅修人工智能专业。
自本科埋下对 AI 的好奇心后，目前对大模型后训练、如何提升模型训推效率感兴趣。
（hhh，头像一看就是标准的 90 后或 00 后）
Runjin Chen，目前是德克萨斯大学奥斯汀分校二年级博士生，导师为前面提到的 Zhangyang Wang 教授。
本硕均毕业于上海交通大学，而且她从今年 3 月起担任 Anthropic 研究员。
个人研究方向为大语言模型的安全、对齐和推理。
其余三位支持者分别为 Zhenyu Zhang、Ananth Grama 和 Zhengzhong Tu。
Zhenyu Zhang，目前是德克萨斯大学奥斯汀分校电气与计算机工程系在读博士，导师也是前面提到的 Zhangyang Wang。
本硕均毕业于中国科学技术大学，研究兴趣主要集中在生成式模型的训推方面。
Ananth Grama，这项研究唯一的外国作者。
目前是普渡大学信息科学中心副主任，同时也是该校计算机科学领域的杰出荣誉教授。
他的研究重点为并行和分布式计算，致力于将其应用于复杂物理系统的建模、设计、先进制造、机器学习等领域。
Zhengzhong Tu，目前是得克萨斯 A&M 大学计算机科学与工程系助理教授，也是论文一作邢朔的导师。
同时，他还兼任该校可信、自主、以人为本与具身智能研究组（TACO-Group） 负责人一职。
个人主页显示，他至今已发表 30 多篇国际期刊 / 会议论文，而且曾担任超 18 个国际期刊 / 会议的技术审稿人。
整体看下来，这又是一场典型的老师带学生、同事带同事的合作典范。
One More Thing
其实"垃圾进垃圾出"这一习语，计算机早期时代就有了。
十九世纪，计算机先驱查尔斯 · 巴贝奇（曾提出著名差分机与分析机的设计概念）就意识到了这条编程的基本原则：
我曾两度被问到："请问巴贝奇先生，如果给机器输入错误的数字，它能得出正确的结果吗？"我完全想不透，思维何等混乱的人才问得出这种问题。
瞧瞧他的用词，只有思绪混乱之人才会对这个问题感到疑惑，观点不可谓不鲜明。
在这之后，在一篇 1957 年介绍美国陆军数学家所做的计算机工作的报纸文章中，其中一位军队专家也曾表示：
计算机自己不能思考，因此输入粗劣的数据将不可避免地产生错误的输出。
后来相关理论不断被提出、被热议，并逐渐诞生了" Garbage in, garbage out "这一习语。
实际上，在前 AI 的时代，这句话是计算机原理也是一种"以机为镜"的哲学思考，对于计算机和人类，物种不同，但殊途同归。
但 AI 开始进入智能涌现阶段后，这个命题变得更加值得思考。
现阶段的大模型垃圾喂多了"脑损伤"后难以修复……那有没有方法和手段改变？
而人类发展进化历史里充满了"浪子回头"、"痛改前非"的故事，又是否代表着另一种高级的智能机制，帮助人类个体实现自我革新和净化？
你说呢……
项目主页：
https://llm-brain-rot.github.io/
论文：
https://arxiv.org/pdf/2510.13928
参考链接：
[ 1 ] https://x.com/alex_prompter/status/1980224548550369376
[ 2 ] https://x.com/VitalikButerin/status/1959189887099588700
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法！
— 完 —
� � 年度科技风向标「2025 人工智能年度榜单」评选报名火热进行中！我们正在寻找 AI+ 时代领航者 点击了解详情
❤️� � 企业、产品、人物 3 大维度，共设立了 5 类奖项，欢迎企业报名参与 � �
一键关注 � � 点亮星标
科技前沿进展每日见
启天配资,振兴配资,在线配资交易网址提示：文章来自网络，不代表本站观点。
