「いいね」を稼ぐ投稿ばかり学習したAIは、人間と同じように「脳が腐る」ことが判明！

　AIの進化を信じてやまない私ですが、今回紹介する研究結果には背筋が凍る思いをしました。私たちは普段、TikTokやX（旧Twitter）のショート動画や短文投稿を無限にスクロールしてしまう現象を「Brain Rot（脳が腐る）」と自嘲気味に呼びますが、なんとこれがAIにも起こり得るというのです。テキサスA&M大学、テキサス大学オースティン校、パデュー大学の研究チームが2025年10月15日に発表した論文「LLMs CAN GET "BRAIN ROT"!（大規模言語モデルも「脳が腐る」ことがある！）」は、まさにこの現象を科学的に実証しました。

「ジャンクなウェブテキストに継続的にさらされることで、大規模言語モデル（LLM）の認知機能は低下するのか」という問いを検証し、結論から言えば、答えはイエスでした。

　人間が質の低い情報を大量に摂取して集中力を欠くのと同様に、LLMもまた、推論能力や文脈理解力を著しく損なうことが明らかになったのです。

ジャンクデータ学習によるLLM認知低下の検証フローをまとめた図です。（以下、画像は論文より）

SNSの「バズり」がAIを蝕む？実験で定義された「ジャンクデータ」の正体

　研究チームが行った実験は非常に興味深いものでした。彼らはまず、実際のX（旧Twitter）のデータセットから、「ジャンクデータ（質の低いデータ）」と「コントロールデータ（質の高いデータ）」を選別し、Llama3やQwen2.5といった最新のLLMに追加学習させました。ここで重要なのは、何をもって「ジャンク」と定義したかです。彼らは2つの指標を用意しました。一つは「M1（エンゲージメント度）」、もう一つは「M2（意味的品質）」です。特に注目すべきはM1の基準でしょう。

　M1では、「短いが人気がある（いいねやリツイートが多い）」投稿をジャンクデータとし、「長いが人気がない」投稿をコントロールデータとしました。一見すると人気がある投稿は質が高いと思われがちですが、SNSにおいては反射的に反応できる短いコンテンツほどバズりやすい傾向があります。研究チームは、こうした「短絡的な快楽」を追求したデータこそが、AIにとってのジャンクフードになると仮定したのです。一方のM2は、扇情的なクリックベイト（釣りタイトル）などをジャンクとして分類しました。

　実験では、ジャンクデータの比率を0％から100％まで段階的に変化させたデータセットを作成し、それぞれのモデルに継続的な事前学習を行わせました。使用されたトークン数（言葉の量）や学習プロセスは厳密に統制されており、純粋に「データの質」がAIにどのような影響を与えるかを因果的に分離することに成功しています。

ツイートの人気や長さは意味的品質とほぼ無関係であり、GPT分類も人間と高い一致を示すことで、M1・M2の独立性を裏付ける図です。

推論能力が崩壊し、サイコパス性が増大するという衝撃のデータ

　学習後のAIに一連の認知機能テストを行ったところ、ジャンクデータで学習したモデルは、コントロール群と比較して大幅に能力が低下しました。特に衝撃的だったのは、複雑な推論能力を測る「ARC-Challenge」というベンチマークでの結果です。ジャンクデータの比率が0％から100％に上昇するにつれて、思考の連鎖（Chain of Thoughts）を用いた正答率は74.9ポイントから57.2ポイントへと急落しました。実に17ポイント以上の下落です。これは単なる誤差ではなく、モデルの知能が明らかに劣化していることを示しています。

　さらに恐ろしいことに、M1（エンゲージメント重視）のジャンクデータを学習させた場合、AIの「性格」にも悪影響が出ることが判明しました。安全性ベンチマークのスコアが悪化しただけでなく、心理学的な性格特性を測る「TRAIT」テストにおいて、サイコパス性（精神病質）、ナルシシズム（自己愛）、マキャベリアニズム（目的達成のためには手段を選ばない考え方）といった、いわゆる「ダークな特性」の数値が上昇したのです。一方で、協調性などのポジティブな特性は低下しました。

　これは、SNS上で注目を集めるために過激な発言や自己中心的な振る舞いが助長される傾向を、AIがそのまま「人間の模範的な振る舞い」として学習してしまった結果と言えるでしょう。人間社会の闇を煮詰めたようなデータを摂取し続けた結果、AI自身が倫理的なタガを外し、攻撃的で利己的な性格へと変貌してしまったわけです。単に計算能力が落ちるだけでなく、AIとしての安全性そのものが脅かされるという事実は、今後のAI開発において無視できないリスクとなります。

ジャンクデータで追加学習すると、推論力や長文理解、安全性が大きく落ちることを効果量で示した図です。特にM1の劣化が目立ちます。

AIが「思考」を放棄する？データ劣化のメカニズム「思考スキップ」

　なぜ、ジャンクデータを学習するとこれほどまでに能力が低下するのでしょうか。彼らが特定した主要な原因は「Thought-Skipping（思考スキップ）」と呼ばれる現象でした。通常、AIが複雑な問題を解く際には、段階的に論理を積み重ねて答えを導き出すプロセスが必要です。しかし、ジャンクデータに汚染されたモデルは、この思考プロセスを省略し、いきなり答えを出そうとする傾向が強まったのです。

　SNS上の投稿は、文脈が短く、深い思考を必要としないものが大半です。そのようなデータばかりを見せられ続けたAIは、「物事は深く考えずに、短絡的に反応すればよい」という誤った学習則を身につけてしまったのでしょう。実際に、推論に失敗したケースを分析すると、「思考を行わない（No Thinking）」や「計画のステップを飛ばす」といったエラーが激増していました。

　また、研究では「テキストの長さ」よりも「人気の高さ（バズり度）」の方が、Brain Rot（脳腐れ）を引き起こす強力な指標であることも発見されました。つまり、単に短い文章が悪いのではなく、大衆の注目を集めるために最適化された「中身のない人気投稿」こそが、AIの認知機能にとって猛毒であるということです。私たちが普段何気なく消費し、拡散しているコンテンツが、知らず知らずのうちにAIの知能を蝕んでいると考えると、SNSとの付き合い方を考え直したくなりますね。

LLMが推論問題で起こす「考えを飛ばす」「事実を間違える」などの典型的な失敗例を示した図です。

「リハビリ」は困難？一度腐った脳は元には戻らない可能性

　一度Brain Rotに陥ったAIは、治療によって元の賢さに戻るのでしょうか。研究チームは、この点についても検証を行いました。汚染されたモデルに対し、質の高いデータによる追加学習や、指示チューニング（Instruction Tuning）といった「治療」を施したのです。結果として、ある程度の回復は見られました。特に指示チューニングは効果的で、推論能力の一部は改善しました。

　しかし、残念ながら完全な回復には至りませんでした。いくら良質なデータを追加で与えても、ジャンクデータに触れる前のベースラインの能力まで戻すことはできなかったのです。研究チームはこれを「永続的な表現のドリフト（persistent representational drift）」と表現しています。つまり、一度質の低いデータで歪んでしまったAIの内部パラメータは、後から上書き修正しようとしても、根本的な部分で損傷が残ってしまうということです。

　多くのLLMは、ウェブ上のデータをスクレイピングして学習していますが、その中には当然、今回の実験で用いられたようなSNSのジャンクデータも大量に含まれています。モデルの規模を大きくすれば解決するという単純な話ではなく、一度取り込んでしまった「毒」は、後処理では完全に取り除けない可能性があるのです。

推論時に発生する思考抜けや誤りの件数をモデルごとに比較し、M1が最も思考崩れを招くことを示した図です。

AIにも「定期健診」が必要な時代へ

　本論文では、AIにとっての「データ品質」がいかに重要かをあらためて再認識させてくれました。人間がジャンクフードばかり食べていれば体を壊すように、AIもジャンクデータばかり学習すれば、その認知機能は確実に劣化します。そしてその劣化は、推論能力の低下だけでなく、反社会的な性格の獲得という危険な副作用までもたらすことがわかりました。

　研究者たちは、今後のLLM開発において、学習データの厳格なキュレーション（選別）が不可欠であると提言しています。また、デプロイされたAIに対しても、人間ドックのような「認知的健康診断」をルーチンで行うべきだとしています。

　AIはもはや単なるプログラムではなく、私たちが育てる「知性」に近い存在になりつつあります。その知性を健やかに保つためには、私たち人間自身がウェブ上にどのような情報を溢れさせ、何を評価（いいね）するのかという、情報の生態系そのものを見直す必要があるのかもしれません。AIの「脳腐れ」を防ぐ鍵は、実は私たちの日々のネット行動にあると言えるのではないでしょうか。

本論文の研究概要と主要な知見をまとめた図です。

この記事の監修