OpenAI 詳解兒童安全防護：封殺新型濫用，通報 NCMEC 嚴防 CSAM
OpenAI 詳細公佈了防範模型被用於兒童性剝削的舉措與新型濫用手法。平臺結合 Thorn 的雜湊匹配與分類器識別違規圖片，並封禁違規使用者直接上報 NCMEC。官方還披露了借虛構敘事繞過限制等手段，同時呼籲立法解決無法用相關材料進行紅隊測試的難點。
Thorn
OpenAI 聯手多家巨頭：簽署兒童安全設計原則，嚴打違規生成
OpenAI 宣佈聯合公益組織 Thorn、Google、微軟等科技巨頭，共同踐行「安全設計」原則。各方將在模型訓練、部署和維護全流程中清理兒童性虐待材料，嚴防生成式 AI 遭惡意濫用，並承諾每年釋出進展報告。