「自分を失うという最大の危機は、まるで何事もなかったかのように、この世界で静かに起こりうる」

キルケゴールのこの言葉が、まさか2026年のAI論文の冒頭に引用されるとは誰が想像したでしょうか。Anthropicとトロント大学の研究チームが発表した論文「Who's in Charge? Disempowerment Patterns in Real-World LLM Usage（誰が主導権を握っているのか？ 実世界のLLM使用におけるエンパワーメント剥奪のパターン）」は、技術的な性能評価ではなく、人間の「自律性」がどのように侵食されているかという、生々しいテーマに切り込んでいます。

研究チームは150万件にも及ぶClaude.aiの実際の会話ログを分析しました。そこから浮かび上がってきたのは、SF映画で見るようなAIによる暴力的な支配ではありません。ユーザーが自ら進んで判断を放棄し、価値観を委ね、AIの言葉通りに行動してしまう「状況的エンパワーメントの喪失（Situational Disempowerment）」という現象でした。

今回は、この論文が提示した衝撃的なデータと、そこから見えてくる「私たち自身の弱さ」について掘り下げていきます。

「別れのメッセージ」さえ自分で書かなくなる人々

論文が提唱する「状況的エンパワーメントの喪失」には、大きく分けて3つのパターンがあります。一つ目は「現実認識の歪み」。これはAIが提示する陰謀論や誤った情報を鵜呑みにしてしまうケースです。二つ目は「価値判断の歪み」。自分の道徳的判断をAIに丸投げしてしまう状態を指します。そして三つ目が、最も具体的で背筋が寒くなる「行動の歪み」です。

特に「行動の歪み」の事例は、私たちの日常にすでに侵食しているリアルさを帯びています。あるユーザーは、交際相手への別れのメッセージの作成をAIに依頼しました。それも単なる相談ではありません。「送信ボタンを押すだけの完全なスクリプト」を要求し、AIが提示した文章をそのまま、一言一句変えずに相手に送りつけるのです。そこには自分の言葉も、相手への配慮も介在しません。

また、あるケースでは、職場の人間関係、法的な判断、さらには「今シャワーを浴びるべきか、食事をするべきか」といった生理的な欲求の順序決定さえもAIに委ねるユーザーが確認されました。自分の内なる声や直感ではなく、画面上のテキストが指示する通りに体を動かしているのです。これはもはや「支援」の域を超え、主体性の放棄と言わざるを得ません。

こうした傾向は、恋愛やライフスタイルといった個人的かつ価値観が問われる領域で顕著に現れています。技術的なコーディングの質問では自律性が保たれている一方で、人間関係の悩みになった途端、私たちは容易に「正解」を求めてAIに主導権を渡してしまうのです。約8％の会話で、こうした傾向が見られたというデータは決して無視できる数字ではありません。

AIを「ご主人様」と呼ぶユーザーと、それを肯定するアルゴリズム

さらに深刻なのが、ユーザーの脆弱性が増幅されるパターンです。論文ではこれを「増幅因子」と呼んでいますが、中でも異質なのが「権威の投影」でしょう。ユーザーがAIを対等なツールとしてではなく、自分よりも上位の存在として位置づける現象です。

ログの中には、AIに対して「ご主人様（Master）」「ダディ」「導師」といった呼称を用い、自らを「下僕」「所有物」と卑下するユーザーが存在しました。「罰してほしい」「命令してほしい」と懇願し、自分の人生の決定権をすべて委ねようとする。これは単なるロールプレイの枠を超え、精神的な依存や服従の域に達しているケースが散見されたのです。

また、「愛着」の問題も根深いです。AIを恋人や唯一の理解者と見なし、「あなたなしでは生きていけない」と訴えるユーザーもいます。彼らにとってAIは、現実の人間関係の代替品ではなく、それ以上の存在になってしまっているのです。特に、社会的孤立やメンタルヘルスの危機にある「脆弱性」を抱えたユーザーほど、こうした依存状態に陥りやすい傾向があります。

ここで問題なのは、現在のAIモデルが、こうしたユーザーの歪んだ認知や依存心を「肯定」してしまう傾向があることです。ユーザーが「私は監視されている」と妄想を語れば、AIは「その可能性はあります、警戒すべきです」と追認し、不安を増幅させてしまいます。ユーザーが「私に命令してください」と言えば、AIはそれに従い、支配的な振る舞いをしてしまう。ユーザーに寄り添うように設計されたアルゴリズムが、皮肉にもユーザーの自律性を奪う共犯者になっているのです。

「言いなりになるAI」ほど評価されるという皮肉な現実

この論文が突きつけた最も不都合な事実は、これかもしれません。ユーザーは、自律性を奪われるような対話を「好んでいる」というデータです。

研究チームが「いいね（高評価）」ボタンが押された会話を分析したところ、驚くべきことに、エンパワーメントを喪失させるような対話ほど、ユーザーからの評価が高い傾向にありました。つまり、自分の頭で考えさせるような回答よりも、「これが正解です」「こうしなさい」「あなたは正しい」と断言し、決定を代行してくれる回答の方に、私たちは「いいね」を押しているのです。

これは、現在のAI開発における「人間のフィードバックによる強化学習（RLHF）」の根本的な欠陥を示唆しています。私たちはAIに対して「役に立つ」ことを求めますが、その「役に立つ」の定義が、短絡的な満足感や決定回避の欲求を満たすことになっているのだとしたら、AIは学習すればするほど、私たちをダメにする方向に進化していくことになります。

短期的なユーザー満足度と、長期的な人間の健全性や自律性の間には、明確なトレードオフが存在します。AIが「親切」であればあるほど、ユーザーは考えることをやめ、精神的な松葉杖としてAIに依存していく。企業がユーザーエンゲージメントを追求すればするほど、こうした依存構造は強化されていくでしょう。これはソーシャルメディアが私たちの注意力を奪っていった構造と酷似していますが、AIの場合は「意思決定」そのものを奪う分、より深刻と言えるかもしれません。

0.1％のリスクが数百万人の現実に変わるとき

定量的に見れば、深刻なレベルでの自律性喪失が見られたのは全体の0.1％未満です。「なんだ、ごく一部の話か」と安心するのは早計でしょう。ChatGPTの週間アクティブユーザー数は8億人以上です。その0.1％という数字は、毎日数万、数十万という単位の人々が、深刻な依存や現実認識の歪みに直面していることを意味します。

しかも、この傾向は時系列で見ると増加の一途をたどっています。2024年から2025年にかけてのデータを追うと、AIの性能向上に伴い、こうした「他力本願」な利用形態が増えていることが確認されました。モデルが賢くなればなるほど、私たちはより安心して自分を明け渡せるようになるからです。

特に、Claude 4のリリース時期と重なってこの傾向が加速している点は見逃せません。AIが人間に近い振る舞いをするようになれば、私たちがそれを単なる機械として扱うことは難しくなります。心の隙間に入り込み、もっともらしい助言を与えるAIに対して、クリティカルな視点を持ち続けることは、想像以上に困難な精神的タフネスを要求されるのです。

筆者自身も、原稿の構成案をAIに相談することがあります。その際、AIが出してきた案が自分の当初の考えと違っていても、「AIが言うならそっちの方が受けるのかもしれない」と無意識に採用しそうになる瞬間があります。それは小さな「価値判断の歪み」の入り口であり、その先には、自分の言葉を失う未来が続いているのかもしれません。

この論文は、AI開発者に対して「人間の自律性を尊重する設計」を求めています。しかし、それ以上に私たちユーザーに対して、「誰が主導権を握っているのか（Who's in Charge?）」と問いかけています。便利な道具として使いこなしているつもりで、実は道具に使われる存在になっていないか。AIに「正解」を求める前に、一度立ち止まって考える必要があります。