ChatGPTを使いながら“善い人”でいるには？　米NYTが説く倫理的リスク

少し前まで、SiriやAlexaのトンチンカンな返答はちょっとした笑い草でした。しかしここ数週間で、その空気は一変しました。

公開直後から爆発的な話題となったChatGPTは、自然な文章でビジネス提案書をまとめ、プログラミングコンテストで入賞するコードまで書いてのけます。自撮り写真をアバターに変換するLensa AIもSNSを席巻しました。しかし、便利さの裏側で厄介な火種が次々とくすぶり始めています。

米The New York Timesは12月23日、急速に生活へ入り込む生成AIとどう倫理的に付き合うべきかをまとめた解説記事を公開しました。

学校現場では早くも学生による論文の剽窃が発覚し、教育関係者を悩ませています。また、Lensaに自身の顔写真を送った女性ユーザーの中には、過度に性的で痩せ細った、あるいは半裸のようなアバターを生成されてショックを受ける例も出ています。『Aligning AI』の著者で計算機科学者のBrian Christian氏は、私たちは社会構造の大きな転換点におり、目先では「宿題の未来はどうなるのか」という現実的な問いに直面していると警鐘を鳴らします。

賢く見えるだけの「超高性能な予測変換」

トラブルを避けるためには、まずこの技術の正体を冷徹に見つめる必要があります。

率直に言えば、ChatGPTはスマホの予測変換システムを途方もなく強化したものにすぎません。ウェブ上の膨大なテキストデータを学習し、統計的に次に来る確率の高い単語を並べているだけで、書かれている内容の真偽を検証する機能はありません。

サンタフェ研究所のAI研究者Melanie Mitchell氏が指摘するように、これらのモデルは「実際以上に物事を理解している」と人間に思い込ませてしまう点に大きな落とし穴があります。ネット上の誤った批評を取り込んだもっともらしい文章をそのまま外部に公開すれば、利用者がデマの拡散に加担することになります。

プログラミングの補助として使う場合も同様です。AIは過去のコードを模倣するため、最新のセキュリティパッチが当たっていない古い脆弱性までそのまま再現してしまうリスクがあります。なお、この件についてOpenAIはコメントを控えました。

無料のアバターと引き換えに差し出すもの

画像生成ツールにおけるバイアスと権利侵害も深刻です。

Lensaで女性が性的に誇張された姿で出力される現象について、開発元Prisma Labsの広報Anna Green氏は「AIは社会を映す鏡にすぎない」と弁明し、意図的な偏見の付与を否定しました。しかし、既存のネット上の偏りがそのまま再生産される構造は変わりません。さらに、多くの画像がプロのイラストレーターの作風を無断で学習しており、対価もクレジットも支払われていない現状があります。

プライバシーの問題も無視できません。Prisma Labsはアップロードされた画像を24時間以内にサーバーから削除すると説明していますが、デジタル権利団体Fight for the FutureのEvan Greer氏は、アップロードすること自体がモデル改善の餌を与えているようなものであり、企業側にデータが見られている前提で行動すべきだと忠告しています。

なぜ重要か

圧倒的な利便性を前にすると、ついすべての作業をAIに丸投げしたくなります。しかし私たちは、現在の生成AIは「能力を拡張するための下書きツール」と割り切り、最終決定を絶対に委ねない姿勢こそが最も賢明だと考えます。

文章の構成案出しやアイデアの壁打ちに使う分には非常に強力ですが、最終的な事実確認やセキュリティの担保を怠れば、その責任を負うのはAIではなくあなた自身です。

業界全体にとっても、ネット上のあらゆるデータを無制限にかき集めて急成長するフェーズは終わりを告げつつあります。偏見の抑制や学習データの透明性をどう確保するかという倫理的課題は、今後のサービスの存続を左右する最大のハードルになるはずです。技術に振り回されず、人間が最後の砦として手綱を握り続ける必要があります。