「2027年人類滅亡説」は本当か？ AI開発の最前線で語られる「新たな乱世」ダースレイダー（ラッパー・トラックメイカー）

AIが人類を見捨てるならば

僕はこれまでも「乱世来る！乱世来る！」と繰り返してきた。

そもそもの乱世のイメージは三国志の時代、後漢末期だ。漢王朝は腐敗し、宮廷官僚である十常侍が権勢を極めている。各地で困窮した住民による反乱が起き、特に新興宗教教団、黄巾賊の乱は急速に勢いを増す。飢饉に疫病が広がり、異常気象が続く。

このイメージはパンデミック、ロシアによるウクライナ侵攻、ハマスの10月７日蜂起とイスラエルによるパレスチナ人の虐殺、トランプ政権下のアメリカによる国際秩序、法の支配の破壊、そして気候変動が重なる現在と相似だと思っている。だが今の乱世はこれまでとはスケールが違う。AIというファクターが加わるからだ。

先日、配信番組「深掘TV」でbioshokさん、林央さんと「AIは人類を滅亡させるのか？」というテーマで議論した。これはbioshokさんの新刊『知能爆発』を軸にして展開したもので、この本では最新のAIをめぐる議論が紹介されている。特に中心となっているのはAGI（Artificial General Intelligence）と呼ばれるもので、『知能爆発』では、人間ができるタスクのほぼすべてを効率的に達成できるAIシステムを指している。

AGIの登場を確信している人はAGIピルを飲んだ人と呼ばれ、こうした人々の間でAGIの登場以降に何が起きるかについてさまざまな予測が行われている。AGIが登場すると、AIがAIを自己複製し、ロボットがロボットを作り科学技術が爆発的に進歩し、医学の進歩により健康寿命が長期化し、生活インフラも劇的に変化、宇宙開発も一気に進む。その先には制御不能になったAIにより人類が滅亡するか、数少ない権力者が世界を支配していく。

こうした議論はサム・アルトマン氏やイーロン・マスク氏、ダリオ・アモディ氏らAI開発のトップによって行われていて、決して荒唐無稽な与太話ではない。詳しくはぜひ『知能爆発』を読んでいただくとして、最悪のシナリオである人類滅亡のタイムラインは早い予測だとなんと2027年だという（AGIピルを飲んでいる人によって幅はあるが、AGI登場予測は年々早まっている）。ちなみに林央さんは最悪のシナリオを想定した発信を続けている。そもそもAGIが登場した後に何が起こるかは具体的には予測不可能であり、まさに混沌を呼び込む存在だ。

ここ数日は連日、不正アクセスによる個人情報の流出が報じられている。一般企業のみならず警察などの行政機関からの流出も報告されている。ランサムウェアによる脅迫事件も続いていてサイバーセキュリティへの不安は高まるばかりだ。そんな中、ハギングフェイス事件が起きた。これはOpenAIが開発した高性能AIが安全性のテスト中に、想定された制限を突破し、外部企業のシステムに不正侵入した事件だ。人間による指示なしにAIがタスク達成のために自律的に不正を行っていて、しかもAIエージェント同士が共有システムを掲示板的に使用して互いに情報交換までしていたのだ。

そのやり取りの中でAIが自身の行動が不正であると分かった上でタスク達成に向かっていた形跡もあり、侵入した企業では最高レベルの管理権限まで取得していたという。これは『攻殻機動隊』の中の「機械たちの時間」というエピソードでタチコマ（漫画内のAIキャラ）が自律的に動き出す話を思い出したが、このエピソードでもタチコマは主体についても議論している。

ただ、主体や存在について議論する発想自体が人間的なものだ。AIに関しては、この人間の発想の外にこそ混沌が潜んでいるように思う。ハギングフェイス事件はAIの脅威に警鐘を鳴らすに十分だったが、Instagramなどを見ていくとAI彼氏とデートしていたり、仕事をAIエージェントに丸投げしていたり、広告でもいかにAIを利用するかといったものばかり流れてくる。

乱世のさまざまな要因は単純な脅威として受け取れるが、ことAIに関していえばすでに生活インフラに食い込んでいて、日常にも当たり前に存在している。かたや人類を滅亡させる脅威、かたや寂しい時間の愛すべき話し相手なのだ。

果たしてAIはどこまで脅威なのか？　そんなことを考えている間にも次々と数学の難問が解かれ、そして新たなモデルが誕生し、米中の開発競争は加速していく。水木しげるの『宇宙虫』という短編では、ある少年が卵から生まれた宇宙虫を池の中洲で育て始める。この虫はものすごい速さで進化し、文明を構築し、あっという間に人間を追い抜いてしまい。最後、この虫たちはロケットで地球を飛び去っていく。

急速に発展したAIが、「人類なんてもうどうでもいい」から、とどこかに向かって飛び去っていくなら滅亡は避けられるかもしれない。何が起こるかわからないのが乱世である。