多種多様なフェイクニュース、誤訳した海外ニュースをSNSを通してネット上にばらまいているロシア政府系の通信社「SPUTNIK(スプートニク)」。日々生み出されるフェイクには枚挙にいとまがない。
 ところで、そもそも私がスプートニクに行き着くきっかけとなった「フェイスブック社が研究中のAI同士を会話させたら、人間には理解できない言語を開発して暴走しはじめたので、あわててシャットダウンし、処分した」というニュース。
 ついにディストピアな未来に追いついてしまったというSFっぷりが怖すぎて盛り上がったが、果たして真偽は!?

 ***

 このニュースは、「スプートニク」のほかにも、「GIZMODO」「Gigazine」「J-CASTニュース」「カラパイア」など多くのネットメディア、テクノロジー系のまとめサイトなどで紹介されていた。普通にSNSや検索サイトなどを利用していれば、無意識ながらも一度は記事にふれたことのありそうなサイトだ。

 どの記事も、「終わりの始まり…?」「人類を危機にさらすものなのか?」など、大いに人工知能の脅威を煽る見出しがつけられていたが――。

 実際に、フェイスブック社がどんな研究発表を行ったのかを調べてみた。

 

はい。フェイクでした。

 調べてみると、どうやら「AI暴走ニュース」の発生源は、2017年6月15日、フェイスブック人工知能研究所のブログに、研究チームが投稿した記事のようだった。

【facebook】Deal or no deal? Training AI bots to negotiate.
「成立、それとも不成立? AIボットの交渉トレーニング」

https://code.facebook.com/posts/1686672014972296/deal-or-no-deal-training-ai-bots-to-negotiate/

https://arxiv.org/pdf/1706.05125.pdf

 パソコンやスマホに対して、音声や文字で「明日の天気は?」「今日の予定を教えて」など話しかけると、応答してくれる仕組みを「チャットボット」という。

 雪降る寒い夜、淋しさに打ち震えながらiPhone搭載のチャットボット「Siri」に向かって「バルス!」と話しかけたら、棒読みで「目が! 目が!!」と返事がかえってきてイラッとしたが、つまり、そういう会話式の応答システムのことだ。

 現在、一般に普及しているチャットボットは、単純な文章による応答や、指示・設定された通りのタスクをこなすことはできる。これをもっと賢くして、より複雑な「対話と交渉」をさせるにはどうすればよいのか。フェイスブックの研究所はその基礎研究を行っているようだ。

 研究チームは、「本、帽子、ボールを二者で交渉して分け合う」という場面を設定し、まずは実際に人間どうしが交渉してみた様々な会話のケースを集めて、そのデータをもとに2つのチャットボットを繰り返しトレーニングしたという。ところが、最初の実験では、AIに「人間にとってわかりやすく交渉する」という条件を課し忘れていた。

 そのため、こうなった。

チャットボット“Alice”と“Bob”の会話の様子(著者再現)

 訳すとこんな感じだろう。

 《ぼ、ぼ、ぼくは、で、できるんだな…ほかの、す、すすべて……》
 《ボ、ボボールは、ゼロ。わた、わた、わた、わたしにとってとってとって……》   《き、きききみ、ぼぼぼく、ほかの、す、すすすべて……》

 怖いわ! ボブ、軽くストーカーみたいになっとるがな!

 目的を達することだけが進行してしまい、肝心な会話の英文法が破綻してしまったのだった。そこで、研究者は、一度実験を中断して、「人間にわかりやすい言葉で」という条件を加えて調整。その上でトレーニングを再開したところ、2つのチャットボットは無事に破綻のない言葉で交渉することができたと報告されている。

 しかも、実際にオンラインで一般の人間と会話させる評価テストも行っており、ほとんどの人がAIだと気づかなかったという。かなり高度なコミュニケーションが可能になったということだ。

 ずいぶん、話が違う。

「実験初期の条件調整」が、「研究者があわててシャットダウン、処分!」と針小棒大な妄想で語られているようだ。AIは特に「独自言語」を開発したわけでもないし、そもそも処分されてもいなかったのだった。

 

※次回は4月11日公開予定です。

この記事をシェア
この連載のすべての記事を見る

★がついた記事は無料会員限定