- GoogleのAIチャットボット、ジェミニによる人物画像生成が停止
- 歴史的な不正確さからユーザーの不満を受けての対応
- サンダー・ピチャイCEOが謝罪
Googleは、種々の歴史的不正確さに対するユーザーからの不満を受け、自社のAIチャットボット「ジェミニ」の人物画像生成機能を中断しました。
報告によると、このチャットボットは「ローマの軍団」を描こうとする際に、時間を超越した多様な兵士の画像を生成。また、「ズールー戦士」に関しては、全ての戦士を黒人として描写、このような歴史感とは異なる内容が出力されていました。
この問題に対し、GoogleのCEOサンダー・ピチャイは公の場で謝罪。ユーザーと歴史的事実との間に生じたギャップを埋める措置をとったことが明らかにされています。
想像するに、初期の軍団の中に現代的な多様性を持つ兵士が含まれるのはまさにタイムトラベラーが混在したかのよう。また、ズールー戦士が一様に黒人として表されるのは、あたかも彼らの豊かな個性を一色に塗りつぶすかのような結果を招きました。
デミス・ハッサビス、Googleの共同創設者もまた、AIの現状と将来について深い洞察と方向性を提供する役割を果たしています。
最終的に、ユーザーの期待に応え、歴史的正確性を尊重するAI技術を実現するために、Googleはジェミニの機能を再評価し、精緻化する作業に着手していることが確認されています。
あのさ、GoogleのAIがヘマしたって話だけど、なんでそんなことになっちゃったの？ AIってバカなの？
それから、なんでいちいち謝る必要があるのかな？ なんか大ごとなの？
えっとね、AIは時々、過去のデータから学習するから、偏りが出ることがあるの。今回の場合は、歴史的に正確でない画像を作ってしまったみたい。それで、たくさんの人が不快に感じたから、Googleは謝罪したんだよ。歴史や文化への敏感さも、AIには必要なんだね。
よし、要点をまとめるとさ、GoogleのAIジェミニが歴史に基づかない画像を作ってしまって、ユーザーからクレームが来たんだ。
例えば、ローマ軍団が時代を間違えたような姿で表現されたり、ズールー戦士が一色に塗りつぶされたような感じで出力された。
AIがヘマをしたわけではないけど、学習したデータに偏りがあったから歴史的な正確さが欠けた結果が出たんだよ。
これによって、ユーザーが不満を持ってしまってさ、Googleとしては歴史的正確性を重んじるべきって状況になった。
だから頭を下げて、AIの機能を見直しに入るってわけさ。
要するに、AIも学習するデータ次第で結果が変わるってこと。
謝る必要があるのは、誤った情報が広まると社会に悪影響を及ぼすからね。
大事なのは、AIも使い方次第ってことだよ。