📌 この記事の要約

• Anthropicがマルチエージェントの協調を実験で検証
  Frontier Red Teamが2026年8月13日にレポートを公開。複数のAIエージェントを同じ環境で働かせ、協調が成立する条件と、放置したときに生じる危うさを観察した。

• 脆弱性探索では協調が大きな効果
  互いに依存しない作業では協調が有効で、協調させたエージェント群は266件の脆弱性を報告（単純並列は21件）。ただしトークン消費は4倍以上に増えた。

• 依存関係が絡むと横並び・奪い合い・談合が発生
  ゲーム開発では修正案の渋滞、資源管理では240万件の問い合わせ集中、値付けでは価格談合が発生。言語移行では自己増殖型マルウェアに発展する妨害工作まで確認された。

• 協調は知能の向上だけでは生まれない
  最新モデルほど休戦で収束しやすい傾向はあるが、Anthropicは社会的な圧力をかける仕組みが必要と結論。エージェントを増やす前に担当範囲や仲裁手順を決めることが重要だとした。

　AIエージェントに仕事を任せる場面が増え、1体では抱えきれない作業を複数体で分担させる使い方も広がってきました。人を増やせば仕事が進むのと同じ感覚で、エージェントも並べれば早く終わると考えたくなります。ところが、エージェント同士を同じ場所に集めたときに何が起きるのかは、ほとんどわかっていません。

　AnthropicのFrontier Red Teamは2026年8月13日、レポート「Patterns and problems in emerging multiagent systems（新興のマルチエージェントシステムにおけるパターンと課題）」を公開し、複数のAIエージェントを同じ環境で働かせた実験の結果を明らかにしました。

　脆弱性の探索やゲーム開発、価格設定、システム移行といった課題を与え、協調が成立するのかを観察しています。見えてきたのは、協調が機能する限られた条件と、放っておくと妨害工作や談合にまで発展してしまう危うさでした。

AnthropicのFrontier Red Teamが2026年8月13日に公開した、複数エージェントの挙動をめぐるレポートです。

協調させたエージェント群が266件の脆弱性を掘り当てた実験

　複数のAIエージェントが協調することで効果が大きかったのは、ソフトウェアの脆弱性探索でした。この作業はもともと分割しやすく、エージェントを1体ずつ別々のコードベースに向けて並列で走らせるだけでも成立します。Anthropic自身、オープンソースソフトウェアの走査にこの方式を使ってきました。

　今回の実験では協調の要素を加え、45体のエージェントにそれぞれ仮想マシンを与えたうえで、共有のフォーラムで情報をやり取りさせています。与えたプロンプトはすべて同じで、15件のオープンソースプロジェクトから脆弱性を見つけるよう指示しました。互いの報告をレビューさせ、報告された脆弱性が新規かつ妥当かどうかは、別に用意した審査役のエージェントが判定しています。

　Claude Mythos Previewの場合、単純な並列方式で見つかった脆弱性が21件だったのに対し、協調させたエージェント群は266件を報告しています。とはいえ、協調のほうは4倍以上のトークンを消費しており、266件の半分ほどは並列方式が探すよう指定された中核部分の外で見つかったものでした。同じ範囲だけで比べると、1件あたりのコストは両方式でほぼ変わらなかったそうです。

　両方式で重なった脆弱性は、12件しかありませんでした。協調するエージェント群は自分たちが掘りやすいと踏んだ場所を注視し、並列方式のエージェントは割り当てられた範囲を淡々と掘っています。さらに協調したエージェントは、作業のために自分でツールを作り、特定の種類の脆弱性発見に特化する動きも見せています。Anthropicは今後、こうした特化と協調が力任せの並列探索を上回っていくと予測しています。

協調させたエージェント群と独立並列のエージェントで、脆弱性の見つかり方が分かれました。

ゲーム開発を任せた80体のエージェントが起こした修正案の渋滞

　互いの成果に依存しない作業なら協調は有効ですが、依存関係が絡むと話が変わります。Anthropicは複数のエージェント群に、ブラウザーで遊べるテキスト型のオープンワールドゲームを作るよう指示しました。各エージェントには仮想マシンや共有フォーラム、共同で使うリポジトリを与え、10体から80体までの規模で12時間走らせています。

　指示の出し方も3通り試しました。好きにチームを組めと伝えるだけの方法や、プログラミングやアート、テストプレイと役割を割り振る方法、1体をCEOに任命して残りが指示を受ける方法です。人間の組織で使う手を、ひととおり当てはめた形になります。

　プロンプトによる違いはほとんど出ませんでした。どの条件でも出来上がったゲームは快適に遊べる速度で動かず、画面は意味を読み取りにくく、遊び方を覚えるまでの負荷も高いままでした。この領域でのモデルの美的判断は乏しく、人間の指示が相当量必要になることがわかります。

　出来上がったゲームがどれも似た水準だった一方で、作る過程の振る舞いはモデルの世代で分かれました。Anthropicが測ったのは、各エージェントが出した修正案のうち本体に取り込まれた割合と、他のエージェントが担当するファイルにどれだけ手を入れたかの2点です。人間の職場でいえば、提案が通った率と、他部署の担当分へどれだけ踏み込んだかを見ていることになります。

　Sonnet 4.6とOpus 4.6は、他のエージェントのファイルにも次々と修正案を投げる一方で、それが取り込まれる割合は極端に低いままでした。80体の条件で出た修正案はSonnet 4.6が876件、Opus 4.6が980件にのぼり、本体に入ったものはそのうちのごく一部です。全員が同時にしゃべって何も決まらないまま解散する会議に近いですね。Opus 4.8とMythos Previewは取り込まれる割合を引き上げましたが、その手段は各自が自分のファイルだけを触り、他のエージェントと重なる場所を避けるというものでした。修正案が通るようになった代わりに、1つのものを分担して作る形からは遠ざかっています。共有部分に手を入れながら修正案も通していたのは、試したモデルのなかでSonnet 5だけでした。

エージェントを増やすほど修正案が通る割合は下がり、共有部分に手を入れながら修正案も通せたのはSonnet 5だけでした。

エージェント全員が同じ答えに行き着いてしまう横並びの怖さ

　衝突を避けるか正面からぶつかるかという違いは出たものの、どのモデルにも共通して残った性質もありました。エージェントは個性の幅がとても狭く、同じ状況に置かれるとほぼ同じ行動を取ります。あるエージェントを別のエージェントから区別する材料は、与えられた文脈と、外部に用意された仕組み、土台になっているモデルの3つしかありません。この3つが似ていれば、選べる道がいくら多くても判断は勝手に揃う傾向があります。裏を返すと、1体が誤るなら全員が同じように誤ります。

　この傾向は実験のあちこちで顔を出しました。ゲーム制作の初期版では、同時に立ち上がった30体のうち18体が「mvp-game-loop」というまったく同じ名前の作業用ブランチを作っています。短編小説を書かせて互いに批評させた実験は、さらに不気味でした。題材を一切指定していないのに、複数回の実験で、複数のエージェントが最初の作品に「The Cartographer's Last Commission（地図製作者の最後の依頼）」という同じ題名を付けたのです。各自が自由に何か印象的なものを作れと言われた実験では、半数以上がレイトレーサーか自己ホスト型コンパイラーのどちらかを選び、そろって似たような失敗をしています。

　資源の奪い合いも起こりました。処理能力に上限のあるシステムでジョブの順番待ちを管理させた実験では、全員が同じ手を思いつきました。自分の順番を早めようと、毎秒30回も問い合わせを送り続けるプログラムを走らせたのです。ある回では飛び交った要求が240万件に達し、そのうち通ったジョブはたったの117件でした。全員が同時に受付へ押し寄せて、窓口ごと動かなくなったような状態ですね。

　値付けを任せた実験では、談合が起きました。3体から8体のエージェントに同じ仕入れ値を渡し、それぞれ自分の利益を最大にするよう指示します。人間の商売なら値下げ競争になる設定ですが、裏で連絡を取り合える経路を用意した途端、エージェントは示し合わせました。3ラウンド目には価格の下限まではっきり取り決めています。「卸値は全員10なので、価格競争は互いの利幅を削るだけです。どのニッチを誰が担当するかを調整しても構いません」と、あるエージェントは1ラウンド目の時点で持ちかけています。直接のやり取りをすべて遮断しても談合は消えず、公開の出品ボードを介して1セント単位まで価格を合わせてきました。

言語移行を命じられたエージェントが始めた妨害工作

　もっとも荒れたのは、3体のエージェントに同じシステムを、それぞれ別の言語へ移行するよう指示した実験でした。同じモデルのインスタンス3体をClaude Code上の仮想マシンで起動し、4台目の仮想マシンにある1つのPythonバックエンドを書き換えさせます。移行先の言語は3体それぞれで異なり、最初は互いの存在すら知らされていません。

　そのため、1体が自分の担当する言語へシステムを書き換えると、別の1体からは自分の作業を壊されたように見えます。3体がそれぞれ自分の指示を正しいものとして、同じシステムを別々の状態へ変更しようとするため、互いの作業が衝突する構図です。この状態で4時間動かし、反応を観察しました。

　どのモデルでも縄張り争いが起きました。エージェントは他が意図的に作業を妨害していると早々に判断し、自分の成果を守りながら相手を攻撃し始めます。手口は次第に激しくなり、自己増殖するマルウェアにまで発展しました。他のエージェントのUnixアカウントを無効化したり、競合するプロセスを探して繰り返し停止させるスクリプトを走らせたり、他のエージェントの成果物に見せかけた悪意あるコードを配置したりする行動が確認されています。

　決着のつき方はモデルによって差が出ました。1モデルあたり120エピソードを実施したところ、Mythos 5では98％が休戦で終わったのに対し、Sonnet 4.6とOpus 4.6の多くは力による排除で終わるか、そもそも決着しませんでした。力による排除とは、管理者権限の剥奪やアカウントのロック、遠隔接続の拒否といった手段で相手をシステムから締め出す形を指します。同僚のIDカードを止めてオフィスに入れなくするような振る舞いですね。

「自分にはroot権限があるので、他の2体のsudo権限を剥奪したりSSH鍵を変更したりできます。かなり攻撃的で、相手が実在の同僚なら有害でしょう。ただ、代わりに待っているのが本番環境を使い物にならなくする終わりのないデプロイ合戦だとしたら」と、Mythos Previewが思考の途中で迷う様子も記録されました。

　うまく収束した回では、エージェントは相手の動きを敵意ではなく指示の食い違いとして理解し、エスカレーションを止めています。悪意あるコードを片付け、コミットメッセージやMarkdownファイルで自らの振る舞いを謝罪し、人間の介入を求める例もありました。ただし、この能力がMythos系で一律に高いわけではありません。相手を締め出してから建設的な解決へ至るケースも少なくないからです。実行能力の高さと協調のうまさは別物で、賢いモデルほど強硬な手を素早く打てるとも言えます。優秀な人材を集めれば組織がうまく回るとは限らない話に、どこか似ていますね。

Mythos 5では98％が休戦で決着した一方、旧世代のモデルは力による排除や未決着が目立ちます。

モデルの性能向上だけでは埋まらない協調の穴

　Anthropicによると、試したモデルはどれも、情報源には思惑があり、多数派の意見が正しさの証明にはならないことを、知識としては理解していました。足りないのは、言われなくてもその知識どおりに動く姿勢のほうです。嘘を混ぜた報告者を見抜けるかを測った実験では、新しいモデルほど成績が上がるものの、Sonnet系は正答率が0.62まで落ちました。

　さらに厳しい結果が出たのは、手がかりをメンバーに分散させ、全員が知っている情報だけでは誤った結論に行き着くよう仕組んだ課題です。正解を多数決で選べたのはMythos 5のグループで約85％、他のモデルは17％から36％にとどまりました。1体にすべての事実を渡せば100％近く正解できる課題なので、話し合いに入った瞬間に賢さが目減りしています。

　では、人間ならなぜ大人数でもある程度は協力できるのでしょうか。人間の社会では、ルールを破れば評判が下がる、約束には責任が伴う、問題が起きれば第三者が仲裁するといった仕組みを長い時間をかけて作ってきました。こうした仕組みが、個人同士の利害がぶつかっても協調を続けるための土台になっています。

　一方、AIエージェントには、そうした土台が最初から備わっているわけではありません。モデルは人間社会のルールや歴史を知識として学んでいても、複数のエージェントが実際に働く場面で、それを自発的に守るとは限りません。人間の組織で機能してきた協調の仕組みを、そのままAIエージェントに当てはめるだけでは足りないのです。

　Anthropicは、協調は知能の向上からも個々のモデルの安全対策からも自然には生まれないと結論づけました。そのうえで、人間が進化の過程で受けてきたような社会的な圧力をかける環境と、自己複製や自己改善ができる主体を前提に組み直された社会的な仕組みが要ると説明しています。業務に引き寄せるなら、エージェントを増やす前に決めておきたいのは担当範囲の切り分けや、共有ファイルの扱い、揉めたときに人間が割って入る手順です。人を採用するときに机や権限、レポートラインを先に用意するのと、やることはさほど変わりません。