Meta、リスク評価の最大90%をAIで自動化へ　社員から懸念の声

巨大IT企業で新機能をリリースする際、開発者にとって最大の関門はバグ修正ではなく、法務やプライバシー担当チームによる審査でした。

しかし、Metaはその審査役をAIに置き換えようとしています。NPRが入手した社内文書によると、同社はFacebook、Instagram、WhatsAppにおけるリスク評価の最大90%を自動化する計画を進めています。

アンケート回答で即時判定、人間による審査は例外に

これまで、アルゴリズムの更新や新機能の追加、コンテンツ共有ルールの変更などは、専任の担当者がプライバシー侵害や未成年への悪影響がないかを議論して承認していました。

新しいプロセスでは、開発チームがプロジェクトに関するアンケートに回答すると、AIが瞬時に判定を下し、注意すべきリスクとクリアすべき要件を提示します。

エンジニアはその要件を満たしたと自ら確認すれば、そのまま機能をリリースできます。従来のように人間の承認を待つ必要はなく、人間による手動レビューはチームが希望した場合などの例外的な扱いに変わります。

Meta側は、意思決定を効率化するためであり、自動化するのは低リスクな判断のみで、複雑な問題には専門家を関与させていると説明しています。しかし、NPRが確認した社内資料には、AIの安全性や青少年のリスク、暴力や偽情報の拡散といった極めてデリケートな分野の自動化も検討対象として記載されていました。

開発スピード優先への懸念と欧州の例外

アプリの更新を素早く行えるようになるため、社内のエンジニアからは歓迎の声が上がっています。一方で、安全性への懸念も根強く残っています。

2022年まで同社の責任あるイノベーション部門ディレクターを務めたZvika Krieger氏は、エンジニアはプライバシーの専門家ではなく、迅速なリリース実績で評価される立場にあると指摘します。セルフチェック方式では単なる形式的なチェックリストの消化になり、重大なリスクを見落とす危険があると警鐘を鳴らしています。

なお、EU域内のユーザーについては、デジタルサービス法などの厳格な規制があるため、アイルランド本社による人間の監視体制が維持される見通しです。

なぜ重要か

AIにAIや自社プラットフォームの安全性を審査させる動きは、スピードを重視する現代のテック企業らしい合理化に見えます。

激化する機能開発競争において、数週間かかる審査プロセスを数分に短縮できることは、開発現場にとって大きなメリットです。競合他社に対しても明確なリリース速度のアドバンテージを生み出します。

しかし私たちは、リスクの最終判断を開発者自身の自己申告に委ねる仕組みには大きな危うさがあると考えます。評価基準がスピードである以上、ブレーキ役を内部の良心に頼るのは構造的な無理があります。

特に未成年保護や偽情報対策といった複雑な社会的判断をAIに任せてしまえば、予期せぬ社会的トラブルにつながる可能性は否定できません。今後は各国の規制当局が、こうしたAIによる自己審査を法的にどこまで容認するかが新たな焦点になるはずです。