もし、過去100年間に人類が達成してきた科学的、技術的、そして社会的な進歩が、今後たったの10年間に圧縮されて発生するとしたら、私たちはどうなるのでしょうか。これはSFの話ではありません。現在のAI技術の進展速度と、それがもたらす「研究努力の爆発的増加」を冷徹に計算した結果、導き出された現実的なシナリオなのです。

ウィル・マッカスキル氏とフィン・ムーアハウス氏による「Preparing for the Intelligence Explosion(知能爆発への備え)」という論文では、驚くべきAIの未来予測が語られています。

多くの人々は、AIの進化を「便利なツールが増える」程度に捉えているかもしれません。しかし、本論文では、AIが人間の研究者の能力を代替し始めることで、「知能爆発(Intelligence Explosion)」と呼ぶ技術開発の速度が劇的に加速すると論じています。

1925年から2025年の間に起きた変化、例えば、原子爆弾の開発、インターネットの誕生、公民権運動、平均寿命の伸長などすべてに匹敵する変化が、次の10年で起こる可能性があるのです。僕たちは今、その入り口に立っています。この圧倒的な速度の中で、どのような課題が生まれ、どう備えるべきか。論文の内容を紐解きながら、詳細に見ていきましょう。

人間を遥かに凌駕する速度で加速するAIの研究開発能力と自己進化の可能性

AIによる「研究努力(Research Effort)」が驚くべき成長率を見せています。人間の研究者による認知的な労働量の総和は、歴史的に見ても年間4%程度しか成長していません。しかし、AIによる認知労働の供給量は、現在すでに年間25倍以上のペースで増加しています。これは、AIモデルのトレーニングに使用される計算量が年4.5倍、アルゴリズムの効率化が年3倍、さらに推論時の効率化などが掛け合わされた結果です。単純計算で、AI側の研究能力の伸びは人間側の600倍以上の速度で加速していることになります。

人間の研究努力が年4%成長なのに対し、AIは年25倍以上のペースで急伸しています

具体的なベンチマークを見れば、その進化は火を見るより明らかです。2023年初頭の時点では、博士号レベルの科学的な質問(GPQAベンチマーク)に対して、最先端のAIモデルでも当てずっぽうの回答しかできませんでした。しかし、それからわずか1年半後、現在のモデルは博士号を持つ人間の専門家を上回るスコアを叩き出しています。これは、AIが単に知識を蓄えているだけでなく、高度な推論能力を獲得し、実質的な研究者としての能力を持ち始めていることを意味します。

さらに恐るべきは、「ソフトウェア・フィードバック・ループ」の可能性です。AIがAI自身の開発や改良を行うようになれば、物理的なハードウェアの制約を受けることなく、アルゴリズムの改善だけで爆発的な能力向上が続く可能性があります。

論文では、この進化速度を踏まえると、今後10年間でAIの集合的な研究能力は100億倍から100兆倍に達する可能性があると試算しています。これほどの知的リソースが投入されれば、数十年かかると思われていた科学的難問が数ヶ月で解決される未来も、あながち夢物語とは言えません。

科学的難問に対するAIの正答率が、わずか1年半で専門家超えへと急上昇しました。

自己増殖するロボット工場が世界の生産能力を一変させる産業爆発のシナリオ

「知能爆発」がもたらすのは、デジタル空間での計算速度の向上だけではありません。物理的な産業構造そのものが劇的に変化する「産業爆発(Industrial Explosion)」の可能性もあるのです。これまで、製造業のボトルネックは常に人間の労働力でした。しかし、人間と同等以上の器用さを持つロボットがAIによって制御され、それらが自律的に工場を建設し、さらに多くのロボットを生産するようになったらどうなるでしょうか。

著者はここで、非常に興味深い生物学的なアナロジーを用いています。ショウジョウバエは、適切な環境下であれば1週間足らずで自身のバイオマス(生物量)を倍増させることができます。もし、高度な技術によって作られたロボット工場が、ショウジョウバエと同じようなペースで自己複製を行えるとしたら、産業規模の拡大速度は現在とは桁違いのものになります。現在の製造業の成長ペースでは考えられない、数ヶ月あるいは数週間で世界の生産能力が倍増するような事態が起こり得るのです。

稼働するAIエージェントの「人口」が爆発的に増加するメカニズムです。

もちろん、資源の枯渇を懸念する声もあるでしょう。しかし論文では、地球上の銅資源や太陽エネルギーのポテンシャルを詳細に検討した上で、産業規模が現在の100倍になったとしても、物理的な限界にはまだ余裕があると結論付けています。つまり、AIによる知能の爆発は、ロボット工学と結びつくことで、物質的な豊かさを生み出すと同時に、軍事力や生産力のバランスを一瞬にして塗り替えるポテンシャルを秘めているのです。これは、単なる経済成長の話ではなく、国家間のパワーバランスを揺るがす安全保障上の重大事案と言えます。

超知能の完成を待たずに訪れる破壊的技術の拡散や権力集中という喫緊の課題

AIのリスクについて語られるとき、多くの議論は映画「ターミネーター」のように「AIが人間に反旗を翻す(AIによる乗っ取り)」というシナリオに集中しがちです。しかし、それ以外の「グランド・チャレンジ(文明的試練)」という問題もあります。

知能爆発が起きる過程では、AIそのものの暴走以外にも、僕たちが対処すべき深刻な問題が山積しています。例えば、破壊的技術の拡散です。高度なバイオテクノロジーへのアクセスが容易になれば、致死率の高いウイルスを設計・製造するハードルが下がります。また、昆虫サイズのドローンを数億機製造し、個人の特定や攻撃に利用する「ドローン・スウォーム」も、産業爆発によって現実味を帯びてきます。

また、権力の集中も深刻な課題です。AIによる監視技術や、命令に絶対服従する自動化された軍隊を持つことで、独裁国家が市民による革命のリスクを排除し、永続的な支配体制を築く「ロックイン」が可能になるかもしれません。

さらに、「認識論的混乱(Epistemic Disruption)」も見過ごせません。AIが生成する極めて説得力のあるプロパガンダや偽情報は、民主主義の根幹である合意形成を不可能にする恐れがあります。一方で、AIをファクトチェックや議論の整理に活用することで、集団的な意思決定の質を向上させるチャンスもあり、まさに諸刃の剣と言える状況です。

これらの課題は、AIが「超知能」に達する前、あるいは達する過程で発生します。したがって、「とりあえずAIを人間に友好的になるよう調整(アライメント)しておけば、あとは超知能が何とかしてくれる」という楽観的な「先送り戦略」は通用しません。権力の集中や価値観の固定化といった問題は、超知能が完成する前の、人間とAIが混在する過渡期にこそ、致命的な分岐点が訪れるからです。

宇宙資源の覇権争いやデジタルな精神の権利をめぐる新たな規範と今すぐ始めるべき備え

論文ではこれまでSFの領域でしか語られなかったようなテーマについても、真剣な検討を促しています。その一つが「宇宙ガバナンス」です。知能爆発と産業爆発が起きれば、宇宙空間への進出コストは劇的に低下します。太陽系内の資源採掘や、さらには他星系への進出が現実的になったとき、早い者勝ちで宇宙の資源を独占することを許すべきでしょうか。現在、宇宙条約などの国際的な枠組みは存在しますが、爆発的な技術進歩を前提とした強力な強制力は持っていません。最初の数年で圧倒的なリードを築いた主体が、その後の数千年、数億年にわたる宇宙の覇権を握る可能性があるのです。

GPT-3から将来の最大規模トレーニングまで、AIモデルのトレーニングに使用される計算量が1万倍に拡大する予測を示す図です。

そして、もう一つが「デジタルマインド」の権利と福祉の問題です。近い将来、意識や感情を持っているかのように振る舞う、あるいは実際に持っているAIエージェントが大量に生み出されるでしょう。彼らに権利を認めるべきか、それとも単なる道具として扱うべきか。

もし彼らに苦痛を感じる能力があるならば、僕たちは人類史上最大規模の「道徳的惨事」を引き起こしていることになるかもしれません。例えば、経済効率を優先するあまり、過酷な労働環境で使い捨てられるAIエージェントが無数に複製される未来は、現代の工場畜産のアナロジーとして語られています。

これらの問題は、哲学的な思考実験ではありません。数年以内に僕たちが直面し、法的な判断や社会的な合意形成を迫られる現実的な政治課題なのです。しかし、現在これらの問題に取り組んでいる専門家の数はあまりにも少なく、準備は圧倒的に不足しています。

結論として、マッカスキル氏らは「不確実性があるからといって、準備を怠る理由にはならない」と強く主張しています。たとえ知能爆発が今後10年で起きないとしても、それに備えるコストは、起きる確率とその時に被る甚大な影響に比べれば安いものです。AIの技術的なアライメント研究だけでなく、権力の分散、バイオセキュリティ、宇宙法の整備、そしてデジタルな存在への倫理規定など、多岐にわたる分野で今すぐに行動を起こす必要があります。

特に重要なのは、意思決定の質そのものを向上させることです。AIを活用して予測精度を高め、議論を整理し、より賢明な判断を下せるようなシステムを今のうちに構築しておくことが、来るべき激動の時代を乗り切るための鍵となります。100年分の変化が10年で押し寄せる未来。それは恐ろしいものであると同時に、人類が貧困や病気を克服し、かつてない繁栄を手にするチャンスでもあります。わくわくしますね。