ChatGPTの安全性向上の裏に時給2ドル未満のケニア人労働者、米TIME誌が報道

対話型AIのChatGPTが自然な受け答えで世界を驚かせる一方で、その裏側にある過酷な労働環境が明らかになりました。

米Time誌の潜入調査により、OpenAIがAIの安全性向上のため、ケニアの下請け労働者に時給2ドル未満で過激なコンテンツのラベル付け作業を行わせていた実態が報じられました。

時給2ドル未満で行われた過激データの選別作業

発端は2021年11月にさかのぼります。

ChatGPTの前身であるGPT-3は、Web上の膨大なテキストを学習していたため、有害な差別用語や不適切な表現を出力しやすいという課題を抱えていました。安全なAIを作るには、何が危険な表現なのかを人間が選別して教え込む必要がありました。

OpenAIはサンフランシスコのアウトソーシング企業Samaを通じてケニアのチームに作業を委託しました。そこで作業員が確認を求められたのは、児童虐待、近親相姦、自殺、自傷行為、拷問、殺人といった極めて凄惨なテキストでした。

Time誌の取材に応じた4人の作業員は、全員が業務によって精神的なトラウマを負ったと語っています。ある作業員は、過激な文章を読み続けることは拷問のようで、週末には精神的にひどく混乱したと述べています。

Sama側はカウンセラーを常備していたと説明していますが、作業員側は過密な業務プレッシャーによりカウンセリングはほとんど受けられず、効果も薄かったと証言しています。

画像案件の発注と契約解除

事態は2022年2月にさらに深刻化しました。

OpenAIはChatGPTとは別の新プロジェクトとして、ケニアのチームに性的描写や暴力を含む画像の収集を要求しました。OpenAIはこの作業について、AIツールをより安全にするために不可欠だったと説明しています。

しかし、この画像収集作業が始まってわずか数週間後、SamaはOpenAIとのすべての契約を打ち切りました。当時SamaがFacebookのコンテンツ監視業務を巡って批判を浴びていたことも背景にあると見られています。

OpenAI側は収集内容に関して「意図の食い違い」があったとし、極端な画像を求めたわけではなく、送られてきた画像も閲覧していないと釈明しました。しかし契約解除に伴い、ケニアの現地作業員の中には職を失ったり、より低賃金の案件へ配置転換されたりする人が出ました。

なぜ重要か

高度なAIモデルはアルゴリズムだけで自律的に育っているわけではありません。安全で清潔なチャット画面の裏には、途上国の安価な人的労働による泥臭いデータ洗浄が存在しています。

ユーザーにとって、ChatGPTが有害な暴言を吐かずに安心して使えるのは便利ですが、その安全性が時給2ドル未満の労働者の精神的負担によって買い取られていたという事実は重い問いを投げかけています。

業界全体にとっても、生成AIの急速な普及に伴い、データアノテーションの労働倫理やサプライチェーンの透明性が厳しく問われる局面に入ったと言えます。

私たちは、精神的な負荷が最も高いフィルタリング業務を低賃金地域に丸投げする手法には大きなリスクがあると見ています。コスト削減を優先して倫理的配慮を怠れば、技術そのものの信頼を根底から揺るがしかねません。