OpenAI、児童の性的搾取対策を公表 新手の悪用手口やThorn連携の詳細
OpenAIは自社AIを用いた児童の性的虐待・搾取（CSAM）への対策と新たな悪用パターンを公表した。Thornのハッシュ一致技術や分類器で不正なアップロードを検出し、違反者をNCMECへ通報・即座に凍結している。架空の物語を用いた迂回などの実態を明かしつつ、政策整備も求めた。
Thorn
OpenAIやGoogleなど各社が連携、生成AIの児童安全保護原則を導入
OpenAIは非営利団体ThornやGoogle、Meta、Microsoftなどと連携し、生成AIの「セーフティ・バイ・デザイン」原則を採用すると発表した。開発から運用までの全段階で児童性的虐待素材の排除を徹底し、年次で進捗状況を公表する方針だ。