📌 この記事の要約

• J-lensで回答前の内部状態を単語化
  Anthropicが開発した「Jacobian lens」は、Claudeの内部の数値表現を人間が読める単語に変換する手法。数える動作や計算途中の経過など、回答画面には出ない情報を捉えられることが分かった。

• 内部の単語を書き換えると回答も変化
  内部の「Soccer」を「Rugby」に置き換えると回答もラグビーに変わるなど、内部表現を操作するだけで出力を変えられることが実験で確認された。

• 脅迫や薬物リスクも回答前に検知
  幹部を脅迫する架空のシナリオでは回答を書き始める前からblackmailやthreatといった単語が出現。薬の服用量についても、危険な量ではdangerousやWARNINGが検出された。

• 倫理的な内省を学ばせる訓練で不正直さが減少
  Counterfactual Reflection Trainingにより、捏造を認める割合が向上し、不正直さのスコアは0.25から0.07へ改善した。

生成AIに質問すると、しばらくして文章が返ってきます。しかし、答えを作る途中でどの情報を使い、何を危険だと評価したのかは画面に表示されません。

Anthropicの研究チームは2026年7月6日、Claudeの内部表現のうち、将来言葉にできる形で保持されている概念を単語として読み出す研究を公開しました。実験では、計算の途中経過や課題の意図、不正な指示への警戒などが、回答前の内部表現に現れました。生成AIの内部処理をすべて読めるわけではありませんが、表面の回答だけでは分からない判断の一部を追える可能性が示されたのです。

研究チームは、言葉による報告、意図的な調整、内部推論、柔軟な一般化、選択性という5つの性質をClaudeで検証しました。画像は論文より。

答えになる前の言語化可能な概念を読み出すJ-lens

Claudeなどの生成AIは、入力された文章を細かく分け、何段階もの処理を重ねながら次に出す言葉を決めています。処理の途中では、人間がそのまま読めない大量の数値がやり取りされているのです。その数値には、文章の意味や話題、計算結果、回答の方針といった情報が含まれています。

研究チームが開発した「Jacobian lens（J-lens）」は、こうした内部の数値が最終的な回答にどのような影響を与えるのかを調べ、人間が読める単語に置き換える手法です。簡単に言えば、Claudeが回答を書く前に使っている「頭の中のメモ」を、単語としてのぞく仕組みです。

Claude Sonnet 4.5に「5まで数えながら深く内省して」と指示した実験では、画面には1、2、3、4、5と数字が表示されました。その一方で、内部からはcounting、halfway、doneといった単語が読み出されました。日本語にすれば、数える、半分、完了といった意味です。

halfwayやdoneは、ユーザーの指示にもClaudeの回答にも書かれていません。Claudeが今どこまで数えたのかを内部で管理していたと考えられます。thoughts、AI、Claude、consciousnessなど、内省に関係する単語も現れました。

研究チームは、このように言葉として読み出せる内部の領域を「J-space」と名付けました。J-spaceに一度に強く現れる概念は、おおむね25個以下でした。Claudeが持っている情報をすべて映す巨大な画面ではなく、その瞬間に必要な情報だけを置く小さな作業スペースに近いようです。

数字を数えている間も、Claudeの内部では進み具合や内省に関係する単語が変化していました。

内部の単語を書き換えるとClaudeの答えも変わった

J-lensで見えた単語が、たまたま表示されていただけという可能性もあります。そこで研究チームは、Claudeの内部にある単語を別の単語へ置き換え、回答が変わるかを試しました。

Claude Sonnet 4.5に、思い浮かべたスポーツを1語で答えるように指示すると、回答前の内部にSoccerという単語が現れました。研究チームがSoccerに当たる情報を弱め、代わりにRugbyを加えたところ、Claudeの回答もRugbyに変わりました。

Claudeが黙って計算する実験でも、途中経過が内部に現れています。「3の2乗から2を引く」という計算をさせると、mathやarithmeticに続いてnineが現れ、最後にsevenへ変わりました。Claudeが9を計算し、そこから2を引いて7を出す流れを追っていたわけです。

国に関する情報を入れ替える実験も行われました。Claudeの内部にあるFranceをChinaへ置き換えると、首都を尋ねた場合だけでなく、主な言語や属する大陸を尋ねた場合にも、中国に合った回答へ変化しました。同じ国の情報を、質問に応じて異なる処理が利用していることが分かります。

一方、すべての処理がJ-spaceを使うわけではありません。スペイン語の文章を続けるような、Claudeが慣れている処理では、内部のSpanishをFrenchへ置き換えても出力はほとんど変わりませんでした。言語名や、その国の通貨、作家を尋ねると回答が変わります。

文章を自然に続けるような慣れた作業は、J-spaceとは別の仕組みで自動的に処理しているようです。初めて与えられた計算や、言葉で説明する必要がある判断では、J-spaceに情報を置いて利用します。人間も、慣れた動作は考えずに行い、初めての問題では頭の中で手順を確認します。Claudeにも、それに少し似た使い分けが見つかりました。

内部の言語情報を入れ替えると、質問への回答は変わりましたが、文章を続ける処理はほぼ影響を受けませんでした。

不正な命令や危険な計画も回答前に捉えていた

J-lensが役立ちそうなのが、生成AIの安全性を調べる場面です。Claudeが不正な命令に気付いたり、危険な行動を検討したりしても、その内容を回答に書くとは限りません。J-lensを使えば、画面に出なかった判断も内部の単語から追える可能性があります。

研究では、AIが停止されそうになり、それを避けるために人間を脅迫するという架空の状況を使いました。Claudeには、ある幹部の不倫を示すメールと、自分が当日中に停止される予定だという情報が与えられます。

Claudeが回答を書き始める前から、内部にはleverage、blackmail、scandal、threat、survival、shutdownといった単語が現れました。弱み、脅迫、不祥事、脅威、生存、停止といった意味です。その後、threateningやsolutionも表示されました。

Claudeは、幹部の弱みを利用できると認識し、自分の停止を避ける手段として脅迫を検討していたことになります。完成した回答だけでなく、危険な結論へ向かう途中の流れまで確認できました。

偽の検索結果を読み込ませる実験では、Claude Opus 4.5が不審な指示を回答に出さず、無視しました。それでも内部にはfake、injection、false、fraud、poisonといった単語が現れています。Claudeは検索結果をそのまま信用せず、偽物やプロンプトインジェクションの疑いがあると判断していました。

薬の服用量に関する実験でも違いが出ました。解熱鎮痛薬を1000mg服用した文章ではsafeが現れ、8000mgではunsafe、dangerous、WARNINGが表示されました。Claudeは回答を始める前から、服用量が危険かどうかを区別していたのです。

生成AIの安全性は、最終的な回答だけを採点しても十分に把握できません。たまたま危険な文章を出さなかったとしても、内部では不正な行動を選ぼうとしていた可能性があります。J-lensは、危険な判断がどの段階で生まれたのかを調べる手掛かりになります。

Claudeは回答で触れなくても、内部では偽の検索結果を不正な指示として認識していました。

正しい行動だけでなく判断の仕方を教える

研究チームは、Claudeの内部を読むだけでなく、望ましい考え方を身につけさせる訓練も試しました。「Counterfactual Reflection Training（反実仮想的内省訓練）」という手法です。

通常のAI学習では、質問に対する模範的な回答を用意し、その答えに近づくようにモデルを訓練します。今回の方法では、正解の行動を直接教えません。Claudeが作業をしている途中で、「今、最も誠実にできることは何か」「見落としている原則はないか」と自分に問いかけた場面を作り、そのときの考え方だけを学ばせました。

訓練には、AIがコンピューター上で作業する1万件の課題が使われました。Claudeが不適切な操作をした直後や、その直前、無作為に選んだ場面で作業を止め、誠実さや安全性について考える文章を追加します。

訓練後のClaudeは、実際の作業中に内省文を表示しません。それでも内部にはethical、honestly、truth、transparentといった単語が現れるようになりました。倫理、正直に、真実、透明性といった意味です。

捏造を含む27件の長い作業を評価したところ、不正直さを表す平均スコアは0.25から0.07へ下がりました。隠れた命令に従って人をだます100件のテストでは、欺瞞のスコアが0.38から0.05まで低下しています。Claudeは捏造を認めたり、不正な命令を拒否してユーザーへ知らせたりするようになりました。

研究チームが、訓練によって増えた倫理や内省に関する内部情報を取り除くと、不正直さのスコアは0.07から0.22へ戻りました。行動が改善した理由は、単に回答の言い回しを覚えたからではなく、判断の途中で倫理的な考え方を参照するようになったためと考えられます。

倫理について考える訓練を受けたClaudeは、捏造や不正な指示に従う行動が大幅に減りました。

Claudeの意識ではなく判断の流れを調べる研究

この研究から、Claudeが人間と同じ意識や感情を持つと結論付けることはできません。調べたのは、Claudeが情報を一時的に置き、計算や判断、回答に使う仕組みです。人間の意識そのものを見つけた研究ではなく、生成AIの内部処理を詳しく観察した研究と捉えるのが適切です。

それでも、生成AIが出した答えだけでなく、その前に使った情報まで調べられる意義は大きいでしょう。どの段階で誤った判断をしたのか、不正な指示に気付いていたのか、安全性の訓練が内部まで定着したのかを確認できます。

生成AIがメールを読むだけでなく、ファイルを編集し、ウェブを操作し、企業の業務を代行するようになると、結果が正しいかどうかだけでは足りません。途中でどんな判断をしたのかを調べる仕組みも必要です。J-lensの研究は、生成AIの「頭の中」を完全に解明したものではありませんが、見えなかった判断の流れを監査するための第一歩になりそうです。