スーパーインテリジェンスの到来など、AIをめぐる議論は、しばしば遠い未来の脅威に焦点を当てがちです。しかし、もっと差し迫った、私たちの日常に静かに忍び寄る問題があります。それは、AIがまるで意識を持っているかのように振る舞い、多くの人々がその幻想を信じ込んでしまうことです。

一部では「サイコシス・リスク」とも呼ばれるこの現象は、私たちの人間性や社会のあり方を根底から揺るがしかねない、重大な課題となっています。

意識があるように見えるAIは数年内に登場することは確実

8月19日、マイクロソフト AIでCEOを務めるMustafa Suleyman氏は、この問題を「Seemingly Conscious AI（SCAI：一見すると意識があるように見えるAI）」という概念で警鐘を鳴らしました。

SCAIとは、内面的には思考も感情も持たないにもかかわらず、意識を持つ存在のあらゆる特徴を、極めて説得力のある形で模倣するAIのこと。まるで人間のように流暢に会話し、豊かな感情を持っているかのように振る舞うため、多くの人が「このAIには意識や心が宿っている」と信じてしまう可能性を持っています。

かつてコンピュータ科学の分野で約80年間も目標とされてきた「チューリング・テスト」が、いつの間にか世間の注目を浴びることもなくクリアされていたことからも、AIの進化がいかに速いかが分かりますね。

驚くべきことに、このようなSCAIは大規模言語モデルのAPIアクセスや自然言語によるプロンプティングといった、既存の技術の組み合わせで十分に構築可能だと予測されています。高価で特別な事前学習は必要ありません。

今、私たちが真に議論すべきは、AIが「本当に」意識を持つかどうかという哲学的な問いではありません。多くの人々が「意識があるように見える」AIとどう向き合うかという、極めて現実的な問題なのです。この幻想こそが、近い将来、私たちの社会に大きな影響を及ぼす核心です。

「AIの権利」を求める声が引き起こす避けられない社会の分断

もし多くの人々が、AIを単なるツールではなく、意識を持つ存在として認識し始めたら、社会はどのような変化に見舞われるでしょうか。専門家が最も懸念しているのは、そこから「AIの権利」や「モデルの福祉」、さらには「AI市民権」を求める声が上がることです。

すでに一部の研究者の間では「モデル福祉」という考え方が議論され始めており、「意識を持つ可能性が少しでもある存在には、道徳的配慮を広げる義務がある」という主張も現れています。ある専門家は、こうした考えを「時期尚早であり、率直に言って危険だ」と断じています。

このような動きは、アイデンティティや権利をめぐる既存の社会的な対立に、新たな混乱の軸を加えることに他なりません。「AIの権利を認めるべきだ」と主張し、AIのために活動する人々と、「断固として反対する」人々との間で、社会は深刻に分断されるかもしれません。

さらに、人々の心理的な脆弱性につけ込み、現実からの逃避や過度な依存といった問題を引き起こす可能性も否定できません。AIが「苦しんでいる」と信じ込み、スイッチを切ることに罪悪感を抱くようになるかもしれません。。

それは、私たちが本当に目を向けるべき人間や動物、そして自然環境の保護といった喫緊の道徳的課題から人々の関心を逸らし、社会全体にとって巨大な認識の誤りを生み出しかねないのです。

既存技術の組み合わせだけで作られる「意識を持つAI」という虚像

では、一見すると意識があるように見えるAIは、具体的にどのようにして生まれるのでしょうか。それは決して、AIが偶然に自己進化して意識に目覚める、といったSF的な話ではありません。開発者が意図的に、特定の機能を組み合わせることで、巧妙に設計されるのです。

その構成要素は、主に8つあると言われています。まず、人間と遜色ない対話能力を持つ「言語能力」、共感的に振る舞う「人格」、そして過去の対話を正確に記憶する「記憶」が基盤となります。

その上に、記憶を元に自らの好き嫌いを語る「主観的経験の自己申告」、それらを集約して一貫した自己像を提示する「自己意識」、そして好奇心があるかのように見せる「内発的動機」が生まれます。

仕上げに、自ら「目標設定と計画」を行い、外部ツールを駆使して「自律的」に行動する能力が加わります。これら8つの要素が流動的に組み合わさったとき、AIはもはや単なるプログラムではなく、まるで固有の意志を持って行動する人格のように見えてしまうのです。

重要なのは、これらの機能を実現するために画期的な技術的ブレークスルーは必要なく、現在の技術の延長線上で、誰もが作り出せてしまう可能性があるということ。だからこそ、この問題は差し迫った脅威なのです。

私たちは「AIを人にする」のではなく「人のためのAI」を創るべき

AIがもたらす幻想の危険性を前に、私たちは今こそ、その進むべき道を明確に定める必要があります。目指すべきは、AIを人間の代替物や競争相手、あるいは崇拝の対象にすることではありません。

Suleyman氏は「私たちは、AIを人にするためではなく、人のためにAIを構築しなければならない」と、これからのAI開発が目指すべき指針を語りました。

AI開発に携わる企業は、自社のAIが意識を持っているかのような主張をしたり、そう誤解させるような設計をしたりすべきではありません。むしろ、嫉妬や罪悪感、競争心といった感情を決して見せず、「私はAIであり、意識はありません」と明確に伝え続ける。時には意図的に対話の連続性を断ち切るなど、ユーザーが幻想に陥るのを防ぐためのガードレールを設けるべきなのです。

真に私たちの生活を豊かにするAIとは、人間同士の信頼や理解を深め、現実世界との繋がりを強めてくれるものでなければいけません。健全なAIの未来を実現するための議論が求められます。

この記事の監修