1. Home
  2. 社会・教養
  3. 「超」創造法 生成AIで知的活動はどう変わる?
  4. ChatGPTは嘘をつく AIの間違った...

「超」創造法 生成AIで知的活動はどう変わる?

2023.11.03 公開 ポスト

ChatGPTは嘘をつく AIの間違った使い方をしていませんか?野口悠紀雄

ChatGPTの出した答えを鵜呑みにしてはいけない?!――AI時代にアイデアを生み出す最強の手法を解説する幻冬舎新書『「超」創造法 生成系AIで知的活動はどう変わる?』より、内容を抜粋してお届けします。

*   *   *

ChatGPTを信じれば、破滅する

生成系AIの出力には誤りがあります。これに十分注意することが、生成系AIの利用にあたって最も重要な点です。それにもかかわらず、これを無視する人がいます。

2023年5月に、アメリカの弁護士がChatGPTの出力した判例を民事裁判の資料として使用したところ、虚偽のものであることが発覚し、問題となりました。こんなことをする人がいるとは、信じられないことです。資格を剥奪はくだつされても当然でしょう。いやその前に、この弁護士に仕事を依頼する人はもういないでしょう。

この例から分かるように、生成系AIの出力情報を信じて利用することの結果は、破滅的なものとなり得ます。

 

多くの人が、生成系AIは質問をすれば、正しい答えを出してくれる魔法の仕掛けだと思っていますが、それは間違いです。

ChatGPTは、2021年9月までのデータについてしか学習していません。ですから、それ以降の出来事に関してはまったく無知です。したがって、最近の出来事についてデータや知識を得ようと思っても、もともとできません。

それにもかかわらず、ChatGPTは、そうした問いに対して答えを提供します。例えば、「2023年のG7広島サミットで何が議論されましたか?」と聞くと、もっともらしい答えを出力します。この場合には、明らかに虚偽と分かりますが、はっきりと判別できない場合が多いので、注意が必要です。

AIは悪意を持たない

AIの出力が信用できない理由として、「学習に用いたデータの質が問題だから」と言われます。あるいは間違った情報を意図的に流して、世論調査を操作する危険も指摘されます。

もちろん、そうした問題もあり得ます。しかし、現実に生じている問題は、そうした性質のものではありません。

学習したデータの大部分は正しい情報だと思いますが、ChatGPTは、それらと誤った情報の区別ができない。あるいは、学習した情報を誤った対象に適用しているのです。

例えば、Bingに統計データを尋ねると、参照しているサイトのURLを示しますが、政府統計などの一次データではなく、怪しげなサイトにある二次データを参照している場合がしばしばあります。

経済データの分析にあたっては、信頼できる情報どこで得られるかを知っていることが重要なノウハウなのですが、Bingにはそのような判別ができないようです。この点から言えば、従来型の検索エンジンのほうがはるかに信頼できる情報源です。

 

「神はたくらみ深いが悪意を持たない」(Raffiniert ist der Herrgott, aber boshaft ist er nicht)とは、アインシュタインの有名な言葉です。

AIは、神のようにたくらみ深くはありませんが、悪意を持たない点は同じです。AIは間違いを犯しますが、それは、AIが悪意を持っているからではありません。問題が起こるのは、人間がAIの使い方を誤っているからです。

ですから、それに対処するのは、悪意を持つ人間を相手にする場合よりは、ずっと容易なはずです。賢く利用することが重要なのです。

*   *   *

この続きは幻冬舎新書『「超」創造法 生成AIで知的活動はどう変わる?』でお楽しみください。

関連書籍

野口悠紀雄『「超」創造法 生成系AIで知的活動はどう変わる?』

生成AIによって、単純な知的作業の効率を著しく高めることが可能になった。そのおかげで人間は、AIにはできない”創造活動”に集中できる。創造とは、アイディアを見つけ、育てること。方法論なしに、いいアイディアを思いつくことは、ない。半世紀にわたってアイディアを生み出す手法を蓄積してきた著者は、生成AIを導入・実験して、真に効果がある使い方を発見。生成AIという優秀な助手を得て、さらにバージョンアップした、最強のアイディア創造法を公開。AI時代に誰が失業し、誰が伸びるか?

{ この記事をシェアする }

「超」創造法 生成AIで知的活動はどう変わる?

バックナンバー

野口悠紀雄

1940年、東京に生まれる。63年、東京大学工学部卒業。64年、大蔵省入省。72年、エール大学Ph.D.(経済学博士号)。一橋大学教授、東京大学教授(先端経済工学研究センター長)、スタンフォード大学客員教授、早稲田大学大学院ファイナンス研究科教授などを経て、一橋大学名誉教授。専攻は日本経済論。近著に『日本が先進国から脱落する日』(プレジデント社、岡倉天心賞)、『2040年の日本』(幻冬舎新書)、『超「超」勉強法』(プレジデント社)、『日銀の責任』(PHP新書)、『プア・ジャパン』(朝日新書)ほか多数。

・Twitter @yukionoguchi10
野口悠紀雄Online
note

この記事を読んだ人へのおすすめ

幻冬舎plusでできること

  • 日々更新する多彩な連載が読める!

    日々更新する
    多彩な連載が読める!

  • 専用アプリなしで電子書籍が読める!

    専用アプリなしで
    電子書籍が読める!

  • おトクなポイントが貯まる・使える!

    おトクなポイントが
    貯まる・使える!

  • 会員限定イベントに参加できる!

    会員限定イベントに
    参加できる!

  • プレゼント抽選に応募できる!

    プレゼント抽選に
    応募できる!

無料!
会員登録はこちらから
無料会員特典について詳しくはこちら
PAGETOP