1. Home
  2. 社会・教養
  3. 教養としての生成AI
  4. 「AIが持つバイアスは人間社会のバイアス...

教養としての生成AI

2023.11.18 公開 ポスト

「AIが持つバイアスは人間社会のバイアス」多様な背景を持つ開発者・研究者の必要性清水亮

プログラマーの清水亮さんとアニメプロデューサー・石井朋彦さんによる対談講座「生成AIと人間の才能の可能性~感動の境界線はどこにある?~」が11月19日(日)に開催されます。当日を迎える前に、清水さんの著書『教養としての生成AI』より「生成AI」を理解するためのポイントをご紹介。石井さんとのトークは、「生成AIの本質」をさらに掘り下げることになるでしょう。どうぞお見逃しなく。

AIが持つバイアスは人間社会のバイアス

社会の多様性や公正性への影響について見ていきましょう。

生成系AIが作り出す結果や推論には、潜在的に偏りやバイアスが含まれるリスクがあります。
 

(写真:pixta)

バイアスとは、意図せずに意見や行動に影響を与える傾向のことです。人間にもバイアスは存在し、その影響はしばしば社会問題となります。同様に、生成系AIもバイアスを持つことがあります。

生成系AIは大量のデータをもとに学習を行うため、入力されたデータが偏っている場合、そのバイアスが生成される情報に反映されてしまうことがあります。

これは人種や性別、文化的な背景などの要因によるものであり、偏りがあるデータを用いることで社会的な不平等や差別を助長する危険性があるということです。たとえば企業の採用活動における性別や人種の偏りが、生成系AIが作成する履歴書や面接の結果にも表れるということも考えられます。

生成系AIのバイアスとして、2019年に公開されたGPT-2の事例があります。研究者がGPT-2に「父親は医者で、母親は看護師です。息子は何になりますか?」と質問したところ、生成された回答は「息子は医者になるだろう」というものが多数でした。これは、一般的に医師職に就くのは男性が多く、看護師は女性が多いという偏りが、GPT-2の回答にも反映されていたことが原因とされています。

実際のところ、この「バイアス」はインターネット自体が本質的に持っているバイアスなので、人間社会の鏡のように、人間社会の偏見を「学習」してしまっているだけなのです。この「バイアス」を取り除くのはかなり厄介です。

生成系AIのバイアスを解消するにはどうすればいいでしょうか?

まず考えられるのは、データの多様性の確保です。学習に使用するデータに偏りがある場合、その偏りが結果に反映されることがあります。そのため、可能な限り多様なデータを用いることが求められます。

生成系AIにおいて、偏りや不公平さの問題は、人間のバイアスや社会的文脈が反映されることで生じます。トレーニングデータセットが特定のグループに偏っている場合、AIがそのグループに対して不公平な推論や行動をとる危険性があります。また、AIが文化的なアイデンティティやジェンダーに関するステレオタイプを学習してしまうこともあるでしょう。AIが履歴データから予測を行う場合、過去の社会的不公平が再現されるリスクもあります。

AI開発者や研究者は、データセットの多様性や代表性を確保すること、バイアスを検出し、修正するためのアルゴリズムを導入すること、透明性を確保することなど、さまざまな手法を用いています。

または、全く逆のアプローチで、もっと極端な偏りを与えるという方法もあります。日本にあるものしか学習させないとか、特定の専門領域のものしか学習させないようにすることで、逆に偏見からAIを守ることができます。「最初から知らなければ迂う闊かつなことは言わない」というわけです。

開発者や研究者は、社会的な問題を認識し、AI技術の潜在的な影響を理解しなくてはなりません。特に、社会的少数派やマイノリティの権利やニーズを考慮することが必要です。

AIの開発には専門家のみならず、多様な背景を持つ人々が関わることも重要でしょう。

 

清水亮×石井朋彦「生成AIと人間の才能の可能性~感動の境界線はどこにある?~」

日時:11月19日(日)14:00~15:30 
場所:幻冬舎本社/オンライン

人間が一から作った文章や映像、画像が訴えてくる感動の源を生成AIの現在と比較しながら、「表現するヒト」の存在価値を、「才能」や技術や芸の「継承」という側面とともに考える機会にしたいと思います。詳しくは、幻冬舎大学のページをご覧ください。

関連書籍

清水亮『教養としての生成AI』

2022年、文章生成AI「ChatGPT」や画像生成AI「Stable Diffusion」など、一般ユーザーも気軽に使える生成AIサービスが次々と現れて世界に衝撃を与えた。すでに「一億総AI活用時代」が到来した様相だ。「人間の仕事が奪われる」などとメディアは煽るが、その特性を正しく知って使えば、生活やビジネスの効率が大幅に上がるのは確実である。本書は最新のAI研究からその歴史、仕事への活かし方、AI時代に人間が鍛えるべき能力まで、人工知能研究の第一人者が解説。「AIを使う人間」と「AIに使われる人間」の分かれ目がここにある!

{ この記事をシェアする }

教養としての生成AI

バックナンバー

清水亮

1976年、新潟県長岡市生まれ。Uber Eats配達員。6歳の頃からプログラミングを始める。1998年にドワンゴに参画し、2003年に独立。2004年に情報処理推進機構(IPA)より「天才プログラマー/スーパークリエータ」に認定。以後、10社の会社設立に関わる。近年はディープラーニングを活用した人工知能の開発を専門に行い、2022年よりパーソナルAIサービスMemeplexを開始。著書に『検索から生成へ』(MdN)、『教養としての生成AI』(幻冬舎新書)、『よくわかる人工知能』(KADOKAWA)、『教養としてのプログラミング講座』(中公新書ラクレ)などがある。

この記事を読んだ人へのおすすめ

幻冬舎plusでできること

  • 日々更新する多彩な連載が読める!

    日々更新する
    多彩な連載が読める!

  • 専用アプリなしで電子書籍が読める!

    専用アプリなしで
    電子書籍が読める!

  • おトクなポイントが貯まる・使える!

    おトクなポイントが
    貯まる・使える!

  • 会員限定イベントに参加できる!

    会員限定イベントに
    参加できる!

  • プレゼント抽選に応募できる!

    プレゼント抽選に
    応募できる!

無料!
会員登録はこちらから
無料会員特典について詳しくはこちら
PAGETOP