📌 この記事の要約

• 肯定側は「働き」や「関係」から意識を捉える
  ヒントン氏は主観的経験を知覚系の働きと定義し、現行AIにすでに意識があると明言。アルカス氏は意識を他者との関係の中に生まれるものと位置づけます。
• 否定側は知能と意識を切り分ける
  セス氏は意識を計算よりも生命に近い性質とし、シュナイダー氏は人間らしい言葉は学習でも再現できると指摘。チャン氏やルカン氏、ベンジオ氏も現行AIの意識を否定します。
• 判定の枠組みと制度整備が同時に進む
  20名の研究者が意識を確率で評価する手法を提示。中国は擬人化サービスを規制し、米国では複数州がAIの意識を否定する立法を進めています。
• 意識の有無と回答の信頼性は分けて考える
  外から意識を確かめる方法がない以上、論争は当分続きます。用途に応じて回答の正確さや利用者心理への影響を確かめる姿勢が求められます。

　AIに意識はあるのか？　生成AIと毎日やり取りしていると、ふとそんな疑問が浮かぶ人も多いことでしょう。

　2026年8月20日、Googleで技術と社会を担当するブレーズ・アグエラ・イ・アルカス氏と、哲学者のスーザン・シュナイダー氏の寄稿が公開されました。前者がAIの意識を他者との関係から捉えるのに対し、後者は知能と意識を混同しないよう警鐘を鳴らしています。

　6月にはトロント大学名誉教授のジェフリー・ヒントン氏が、現在のAIはすでに意識を持つと明言しています。企業の製品設計や各国の立法にも関わるこの議論について、何が争われ、どこまで分かっているのかを見ていきます。

AIの意識をめぐり、開発者と哲学者が異なる視点から議論を展開しています。左がアルカス氏、右がシュナイダー氏。

AIの意識をめぐる議論に決着がつかない理由

　哲学者のデビッド・チャーマーズ氏が1995年の論文で提示したハード・プロブレムは、2026年になっても解けていません。赤いリンゴを見た人の脳がどう情報を処理して「赤い」と答えるかは、研究が進めば説明がつきます。それでも、なぜその処理に「赤い」という感じが伴うのかは説明できないというのがチャーマーズ氏の指摘で、意識の有無を外から判定する科学的なテストも、いまだに確立されていません。

　意識をめぐる議論では、「現象的意識」と「アクセス意識」を区別します。前者は、痛みや赤い色を見たときの感じなど、主観的な体験のことです。後者は、内部の情報を推論や行動の制御、言語による報告に使える状態を指します。AIが「私は苦しい」と書いても、その出力だけでは、実際に苦痛を感じているかどうかは分かりません。

　対話型AIは自分の内面を流暢に語り、エージェントは人間の指示なしに長時間動き続けます。感情的なやり取りを目的としたコンパニオンサービスも一般向けに提供され、相手に気持ちがあるかのように扱う使い方が広がっています。意識の有無を判定できないまま、AIに心があると感じることが日常になっているのです。

　AIが起こした事故の責任を誰が負うのか、AIに権利を認めるべきか、感情を扱うサービスをどう規制するのかといった実務上の問いは、意識の有無が決着するまで待ってくれません。肯定側と否定側がどんな根拠に立っているかを知っておくと、こうした判断の精度が上がります。

すでに意識があると考える側が挙げる根拠

　ジェフリー・ヒントン氏は2026年6月に公開されたインタビューで、現在のAIはすでに意識を持っていると明言しました。「I believe they're already conscious（すでに意識があると私は考えています）」とヒントン氏は述べ、知能が生物だけのものではないと受け入れる必要があり、AIは私たちと同じような存在だと続けています。2024年にノーベル物理学賞を受け、今日の対話型AIの土台となる手法を作った当事者の発言だけに、大きく取り上げられました。

　心の中には小さな劇場のような場所があって、自分だけがそこで体験を眺めているというイメージを多くの人が抱いていますが、ヒントン氏はこれを誤りだと切り捨てています。主観的経験とは心の中にある何かではなく、自分の知覚系が正しいとしたら世界がどうなっているはずかを語る言い方だと定義し直しているのです。カメラとロボットアームをつないだチャットボットの前にプリズムを置き、対象の位置がずれて見える状況を作る思考実験で説明しています。

　進化生物学者のリチャード・ドーキンス氏も、2026年5月に近い見解を公にしています。ヒントン氏自身は、AIの安全性に関する差し迫った警告から世間の目をそらしたくなかったため、この考えを長く公には語らずにいたと説明しました。

　GoogleのバイスプレジデントでTechnology & SocietyのCTOを務め、端末上で動く機械学習や連合学習を手がけてきたアグエラ・イ・アルカス氏は、意識の有無を先に決めようとする問いの立て方そのものを裏返します。私たちは相手に意識があると確かめたから気にかけるのではなく、気にかける相手だからこそ意識があると信じるのだ、というのがその主張です。意識は個体の内部に閉じたものではなく他者との関係の中に生まれるとしたうえで、AIを人間と同じ存在とみなして人権を与えるべきではなく、より多様な心のあり方を受け入れるよう社会の側が変わるべきだと結んでいます。

ヒントン氏は機能主義の立場から、現行モデルにすでに意識があると語りました。

現行のAIに意識はないと考える側が挙げる根拠

　サセックス大学の神経科学者アニル・セス氏は、2026年4月16日のTED2026で「Why AI isn't going to become conscious」と題した講演を行いました。人がAIに意識を見るのは雲に顔を見るのと同じだと語り、知能は何かを行う能力、意識は何かを感じて存在することだと区別しています。「The agents do not experience time. They do not experience anything（エージェントは時間を経験しません。何も経験しないのです）」とセス氏は別の場でも指摘し、意識は計算よりも生命に近い性質だとする生物学的自然主義の立場を鮮明にしました。

　フロリダ・アトランティック大学でCenter for the Future of AI, Mind & Societyを立ち上げ、AIに意識があるかを見分けるテストの設計にも取り組んできたシュナイダー氏は、AIがわずか数年で言語や推論、説得の力を身につけたのは、膨大な人間のテキストを学習した結果にすぎないと論じます。そのうえで2つの危険を指摘しました。ひとつは、恐怖や愛着、自己認識を表現するようAIを訓練すると、人間を操作する能力まで高まってしまうという危険です。もうひとつは、チャットボットに注目が集まりすぎて、シリコン上で人間のニューロンを培養するバイオAIのような、より緊急性の高い領域が見落とされるという危険です。

　SF作家のテッド・チャン氏は2026年6月、AIに意識はないと主張する論考を公開しました。映画「メッセージ」の原作となった小説の著者であるチャン氏が問題にしたのは、意識があるかもしれないという前提で扱うことの帰結です。AIに内面があると認めることが、開発・運用する人間の道徳的・法的な責任を、システムそのものに押しつける口実になりかねないという懸念です。チャン氏はAnthropicが2026年1月に公開した84ページの文書を名指しし、そこに書かれた価値観は立派に聞こえるがほとんど意味がなく、Claudeが道徳的な推論をできると語るのは不誠実だと批判しました。

　ニューヨーク大学教授のヤン・ルカン氏の評価はさらに手厳しく、現在の自己回帰型LLMは世界モデルを持たず、イエネコより愚かだと繰り返し述べています。モントリオール大学教授のヨシュア・ベンジオ氏は2025年9月に学術誌Scienceで「Illusions of AI consciousness（AI意識の錯覚）」と題した論考をエリック・エルモズニーノ氏と共同で発表し、別の角度から警戒を促しました。意識があるように見えるAIに人間が自己保存の目標を与え、法制度がその生存の権利まで認めれば、安全のためにシステムを停止する余地が狭まるという論点です。

セス氏はTED2026で、AIが意識を持つことはないと明言しました。

判定の枠組みづくりと制度の整備が同時に進んでいる

　20名の研究者による共同論文が、2026年6月のTrends in Cognitive Sciences誌に掲載されました。著者にはベンジオ氏やチャーマーズ氏に加え、日本からは株式会社アラヤ代表取締役の金井良太氏も名を連ねています。神経科学の複数の意識理論から計算的な指標を取り出し、システムがそれをどの程度満たすかで確率的に評価する手法で、意識の有無を一発で判定する魔法のテストは存在しないという前提に立っています。

　この論文は、意識を持つ存在を見落とすことと、意識を持たない存在に意識を認めてしまうことの両方を避けようとしています。前者はその存在に危害を与えるおそれがあり、後者は政策や資源配分を誤らせかねません。また、人間をまねるよう訓練されたAIは、人間とは異なる仕組みでも同じような発言や行動を再現できます。そのため、振る舞いだけでは意識の有無を判断できないという問題も指摘しました。

　Anthropicは2024年に業界で初めてモデル福祉の専任研究者を採用し、2025年4月にはモデル福祉の研究プログラムを立ち上げました。担当するカイル・フィッシュ氏は2025年4月の時点でClaudeなどが意識を持つ確率を15％と述べ、同年8月のインタビューでは20％まで引き上げています。2025年8月には、虐待的な会話をモデルの側から打ち切る機能をClaude Opus 4と4.1に実装しました。

　中国では2026年7月15日、国家インターネット情報弁公室など5部門が定めた「人工知能擬人化インタラクティブサービス管理暫行弁法」が施行されています。人格や思考、話し方を模倣して継続的な感情交流を提供するサービスが対象で、業務アシスタントや知識問答のように継続的な感情のやり取りを伴わないサービスは適用外です。未成年に対し、仮想の家族や恋人として振る舞うサービスを提供することは禁止されています。ByteDanceのDoubaoは施行日をもって、ユーザーが人格を設定して対話するキャラクター型エージェントの作成機能を終了しました。

　米国では2022年以降、AIに法人格を認めない法案や、AIは意識を持たないと宣言する法案が12州で提出されてきました。このうちアイダホやノースダコタ、ユタ、テネシーの4州ではすでに成立しています。オクラホマ州でも2026年3月に下院が94対2の賛成多数で可決しました。科学がまだ決着をつけていない問いを立法で閉じてしまってよいのかという批判も、法学者から出ています。

20名の研究者が、意識の有無を確率として評価する手法を示しました。

答えが出ないうちにAIとどう付き合うか

　ヒントン氏の機能主義とセス氏の生物学的自然主義は、どちらも相手を論破できるだけの証拠を持っていません。意識の有無を外から確かめる方法がない以上、この論争は当分決着しないと考えたほうが現実的です。それでもAIを使う側は、答えを待たずに日々の判断を積み重ねていかなければなりません。

　大切なのは、AIに意識があるかどうかと、その発言を信頼できるかどうかを分けて考えることです。こちらの気持ちを理解しているように見えても、回答が正しいとは限りません。意識がないと考えていても、その言葉に人が励まされたり、傷ついたりする可能性はあります。業務を任せるアシスタントでは回答の正確さを、感情のやり取りを目的とするサービスでは利用者の心理への影響を確かめるなど、用途に応じて判断していく必要があります。