編輯 | 云昭
我們每天刷到的那些情緒化標(biāo)題、碎片化內(nèi)容、互懟式評論，可能不只是讓人變蠢。最新研究發(fā)現(xiàn)——連續(xù)幾個(gè)月讓AI刷這些數(shù)據(jù)，AI也會被帶壞。
什么是“AI 腦腐”？
美國德州大學(xué)研究團(tuán)隊(duì)最近提出了一個(gè)大膽的新假說：大語言模型腦腐假說！
LLM Brain Rot Hypothesis
意思是：如果一個(gè)大模型長期訓(xùn)練在“垃圾互聯(lián)網(wǎng)文本”上：比如標(biāo)題黨、吵架貼、情緒宣泄文、AI 自動生成的廢話，它的思考能力會持續(xù)退化，甚至出現(xiàn)人格偏差。
換句話說，AI 也會“被環(huán)境熏壞”，就像人長時(shí)間沉迷短視頻，會注意力變差、邏輯變亂。
圖片
代碼開源地址：https://llm-brain-rot.github.io/
論文地址：https://www.arxiv.org/abs/2510.13928
他們怎么驗(yàn)證的？
研究團(tuán)隊(duì)挑了四個(gè)大型語言模型，在真實(shí)的 Twitter/X 數(shù)據(jù)上做了對照實(shí)驗(yàn)：
- 一組喂“高質(zhì)量內(nèi)容”（信息密度高、邏輯清晰）
- 一組喂“垃圾內(nèi)容”（高互動但無營養(yǎng)）
圖片
細(xì)節(jié)上具體看，為了隔離“數(shù)據(jù)質(zhì)量”這一變量，團(tuán)隊(duì)在真實(shí)的 Twitter/X 語料上進(jìn)行了對照實(shí)驗(yàn)，通過兩種獨(dú)立的標(biāo)準(zhǔn)構(gòu)建了“垃圾數(shù)據(jù)集”和“對照數(shù)據(jù)集”：M1（互動度指標(biāo)）和 M2（語義質(zhì)量指標(biāo)）。兩種條件下的數(shù)據(jù)規(guī)模和訓(xùn)練方式保持一致。
結(jié)果很扎心！長期“吃垃圾內(nèi)容”的那組模型，在推理、理解、安全性上表現(xiàn)出全面下滑。
圖片
甚至出現(xiàn)出向暗黑人格的偏移——更自戀、更沖動、更像“帶情緒的網(wǎng)友”。
與對照組相比，使用垃圾數(shù)據(jù)持續(xù)預(yù)訓(xùn)練的四個(gè)模型在推理能力、長文本理解、安全性方面出現(xiàn)顯著退化（效應(yīng)量 Hedges g > 0.3），并表現(xiàn)出更強(qiáng)的“黑暗人格特征”（如精神病傾向、自戀等）。
圖片
AI 變笨的“劑量效應(yīng)”
此外，論文中有個(gè)特別形象的“慢性中毒”現(xiàn)象：當(dāng)訓(xùn)練數(shù)據(jù)中混入不同比例的垃圾文本時(shí)，模型表現(xiàn)也呈現(xiàn)“劑量-反應(yīng)式”衰退。
當(dāng)“垃圾文本”占比從 0% 增加到 100%，模型在推理測試（ARC-Challenge）中的得分，從 74.9 掉到 57.2。另一項(xiàng)指標(biāo) RULER-CWE 也從 84.4 掉到 52.3。
也就是說，喂得越多，退化越嚴(yán)重。它不是瞬間壞掉，而是像糖吃多了，智力慢慢滑坡。
在劑量反應(yīng)測試中，M1（互動度）干預(yù)對推理和長上下文能力的影響比 M2（語義質(zhì)量）干預(yù)更為顯著。
圖片
為什么？腦子爛掉的AI 開始“跳過思考”
研究者在分析模型輸出時(shí)，發(fā)現(xiàn)最常見的退化癥狀是：“Thought-skipping”——思維懶惰癥。
模型越來越傾向于直接給結(jié)論，不再推理。一句話總結(jié)：它懶得思考了。這就像人類在信息流環(huán)境下失去了耐心，只看結(jié)果，不想過程。
圖片
他們發(fā)現(xiàn)，大多數(shù)失敗可歸因于“思維懶惰癥”，例如模型未能生成中間的推理步驟等，這種情況在受「腦腐」影響的模型中顯著增加。
能治好嗎？
團(tuán)隊(duì)的結(jié)論是，可以部分恢復(fù)，但治不好。即便后來再用干凈數(shù)據(jù)或指令微調(diào)去修復(fù)，模型也很難回到原本的能力水平——它會留下“認(rèn)知疤痕”。
圖片
此外，團(tuán)隊(duì)還發(fā)現(xiàn)，反思有助于大模型減少思維跳躍。然而，他們還指出：如果沒有來自更強(qiáng)大模型的外部反饋，自我反省也會增加事實(shí)錯(cuò)誤。
結(jié)論：AI 也需要“認(rèn)知體檢”
論文最后提出一個(gè)新觀點(diǎn)：
“數(shù)據(jù)質(zhì)量不僅影響模型效果，更是訓(xùn)練安全問題。”
就像人類需要心理健康檢查，AI 未來也需要定期認(rèn)知體檢，防止長期喂垃圾導(dǎo)致“系統(tǒng)性腦腐”。
