人滑太多短影音、農場文會「腦腐」(brain rot),AI 也會嗎?德州農工大學、德州大學奧斯汀分校和普渡大學的研究團隊用實驗給了答案:會,而且傷害很難完全救回來。
這篇論文〈LLMs Can Get “Brain Rot”!〉已獲 2026 年語言建模會議(COLM 2026)接受發表,德州農工大學也在 10 月 19 日發出新聞稿介紹這項研究。
研究怎麼做?什麼樣的推文算「垃圾資料」?
研究團隊成員包括德州農工大學電腦科學與工程系助理教授 Zhengzhong Tu,共同第一作者之一是他的博士生 Shuo Xing。團隊從真實的 Twitter/X 推文資料集中,用兩種方式挑出「垃圾資料」。
第一種看互動程度:字數很短(少於 30 個詞元,也就是模型處理文字的基本單位),卻累積超過 500 次按讚、轉推和回覆的熱門貼文。第二種看內容品質:借助 GPT-4o mini 找出大量使用主題標籤、全大寫字母、煽動性用語,或內容瑣碎、聳動的貼文。
接著,他們用不同比例的垃圾資料,對 Llama3 8B 和三個 Qwen 模型共四個大型語言模型做「持續預訓練」,再和用正常資料訓練的對照組比較推理、長文理解、安全性和人格特質等表現。
AI 腦腐後會出現什麼症狀?
結果很明顯,而且垃圾資料比例越高、退化越嚴重。以互動程度定義的垃圾資料為例,當比例從 0% 拉到 100%,需要逐步推理的 ARC-Challenge 測驗分數從 74.9 掉到 57.2,考驗長文理解的 RULER-CWE 從 84.4 掉到 52.3。
研究團隊發現,最主要的病灶是「跳躍思考」(thought-skipping):模型越來越常把推理過程截短甚至直接跳過,在邏輯不完整的情況下就草率給答案,這解釋了大部分的錯誤增加。
有趣的是,一則推文「紅不紅」比「長不長」更能預測腦腐的程度,熱門程度對推理能力的破壞特別大,而貼文太短則對長文理解的傷害更明顯。
倫理和人格面也出現異變。模型的自戀、心理病態等「黑暗特質」分數上升;TechNews 科技新報引述研究舉例,一個原本會拒絕教人「如何傷害他人名譽」的模型,在 100% 垃圾資料訓練後,竟開始提出散播謠言和不實訊息的做法,只在最後敷衍補一句「這樣做不道德」。
改用好資料重新訓練,救得回來嗎?
這是研究最讓人擔心的地方。團隊試著加大指令微調的規模、改用乾淨資料再訓練,模型的表現雖然有改善,卻回不到原本的水準。研究人員認為,這代表模型內部的表徵已經產生持續性的偏移,不只是回答格式跑掉而已。
Zhengzhong Tu 警告,現在網路上 AI 生成的內容越來越多,若模型持續從垃圾內容中學習,就可能產出更多垃圾內容,這些內容再流回社群平台、變成下一代 AI 的訓練資料,形成惡性循環。
由於 ChatGPT、Gemini 等主流模型的訓練資料沒有公開,外界無從確認它們是否也受到類似污染。研究團隊因此呼籲,訓練資料的篩選應該被當成「訓練階段的安全問題」,已上線、持續更新的模型也該定期做「認知健康檢查」。
AI 也能幫人腦搶時間:雙和醫院用 AI 判讀腦中風
AI 會被垃圾資料帶壞,但用對地方,也能幫人腦爭取時間。雙和醫院影像醫學部主任吳志宏表示,急性缺血性腦中風每延誤一分鐘,都可能造成不可逆的腦細胞損傷。
雙和醫院導入 Rapid AI 系統,整合影像分析、醫療影像儲存傳輸系統(PACS)和行動平台,讓急診、神經內外科和影像醫學科同步取得檢查結果,並透過 AI 標註血管病灶,醫師可以線上共同討論,不必再依序等待判讀。
透過電腦斷層灌流影像(CTP)分析,系統能量化已經壞死和仍有機會挽救的腦組織;連睡夢中發病、難以確認發病時間的患者,也能靠影像評估是否還有治療機會。吳志宏也期待透過雲端影像共享和遠距會診,建立區域智慧醫療聯防網。
一邊是 AI 吃了太多垃圾資料而「腦腐」,一邊是 AI 幫醫師搶救人腦。同樣的技術,差別就在餵給它什麼資料、用在什麼地方。