Metaが「責任あるAI」チームを解体、生成AI部門へ再配置

巨大テック企業は「責任あるAI」の重要性を声高に語る一方で、社内でブレーキを踏む専門部隊を静かに解体しています。

The Informationが報じた社内投稿によると、Metaは「Responsible AI（RAI）」チームを正式に解散しました。所属メンバーの大半は生成AIプロダクトチームに移籍し、残りの人員はAIインフラ部門に再配置されます。

Metaの広報担当者Nisha Deo氏はThe Vergeに対し、今回の再編はAI機能の開発を加速させるためのものだと説明しました。組織が変わっても、元RAIメンバーは引き続き全社的な安全性の取り組みを支援していくとしています。

すでに「抜け殻」となっていた倫理部門

この動きは唐突に見えますが、以前から予兆はありました。

RAIチームは2019年に設立され、モデルの訓練データに偏りがないか、プラットフォーム上で不適切な挙動を起こさないかを検証する役割を担っていました。しかし、Business Insiderが以前報じた通り、今年初めのレイオフですでにチームは事実上の抜け殻状態に陥っていました。

当時の報道によると、RAIチームにはほとんど裁量権がなく、安全基準を一つ通すだけでも社内関係者との果てしない交渉が必要だったとされています。

MetaのAIシステムをめぐっては、翻訳ミスによる不当逮捕や、WhatsAppのステッカー生成機能による偏見画像の出力、Instagramのアルゴリズムが不適切なコンテンツを推奨してしまう問題など、数々のトラブルが続いてきました。

なぜ重要か

生成AIの軍備競争が過熱するなか、大企業におけるAI倫理の立ち位置が根本から変わりつつあります。

Metaは安全の専門家を現場に組み込むことで、より実用的な開発ができると説明しています。しかし私たちは、この「分散化」が実質的にガバナンスの弱体化を招くと考えています。独立した監視役がいなくなり、新機能の納期を追うプロダクト部門の指揮下に入れば、ブレーキ役を務めることは極めて困難になります。

今年初めにはMicrosoftもAI倫理部門を解散しており、テック大手が OpenAIへの対抗を優先し、社内規制を緩める傾向が鮮明になっています。

しかし、この判断は非常に危ういと言わざるを得ません。バイデン政権の大統領令や欧州連合のAI規制法案など、世界中で法規制の網が急速に狭まっています。外部からの監視の目が厳しくなる局面で、自浄作用を担う専門組織を手放したことは、将来的な不祥事や法的リスクを抱え込む原因になりそうです。