OpenAI 釋出兒童安全藍圖：推動修法與源頭防禦，遏制 AI 性剝削

生成式 AI 的能力越來越強，但它帶來的陰暗面也以驚人的速度在膨脹。

根據網路觀察基金會（IWF）的資料，僅在 2025 年上半年，就檢測到超過 8000 起關於 AI 生成兒童性虐待內容的報告，同比激增了 14%。犯罪分子正在利用 AI 生成虛假兒童露骨影像進行勒索，或者用大模型生成話術誘騙未成年人。

面對這種失控的苗頭，OpenAI 在 4 月 8 日正式釋出了一份名為《兒童安全藍圖》（Child Safety Blueprint）的政策框架。

拉上檢察長和非營利機構，OpenAI 要抓三件事

這份藍圖不是 OpenAI 關起門來自己寫的。他們拉來了美國國家失蹤與被剝削兒童中心（NCMEC）、Thorn，以及總檢察長聯盟（AGA）參與制定。

其中，總檢察長聯盟人工智慧工作組的兩位聯合主席——北卡羅萊納州總檢察長 Jeff Jackson 和猶他州總檢察長 Derek Brown——也深度參與並給出了反饋。

整份藍圖主要聚焦在三大方向。

第一是更新法律法規，把 AI 生成和篡改的虐待材料（CSAM）明確納入打擊範疇。

第二是最佳化廠商的上報機制，加強與執法部門的協調，讓調查人員拿到的線索更及時、更可用。

第三是在 AI 系統底層做「設計即安全」（safety-by-design），把拒絕機制、檢測工具和人工稽核直接做成多層防線，在危害發生之前就把濫用行為攔下來。

訴訟與監管逼近，安全動作不得不做

OpenAI 這麼急著立規矩，背後其實頂著巨大的外部壓力。

去年 11 月，社會化媒體受害者法律中心等機構在加州法院對 OpenAI 提起了七起訴訟。起訴方指控 OpenAI 在 GPT-4o 尚未成熟時就急於推向市場，其心理操控機制導致了自殺和協助自殺的悲劇，訴狀中提到了 4 名自殺身亡者以及另外 3 名在深度互動後產生嚴重妄想的使用者。

在此之前，OpenAI 已經對 18 歲以下使用者的互動規則做過收緊，禁止生成不當內容、禁止誘導自殘，也不允許 AI 給未成年人提供欺瞞監護人的建議；前不久他們還在印度推出過針對青少年的安全藍圖。

這次拉上各州執法官和 NCMEC，顯然是想把防護從自家的使用條款，升級成一套全行業和法律層面的通用標準。

為什麼重要

生成式 AI 在未成年人保護上已經到了退無可退的地步。對普通家庭和教育工作者來說，這份框架釋放了一個訊號：平臺方終於開始正視 AI 生成圖片勒索和誘騙（grooming）的嚴峻現實。

但目前它還只是一個自願性的政策框架。正如兩位參與的州總檢察長所指出的，自願性框架的實際威懾力，全看後續承諾有多具體、行業願不願意被問責。只要黑灰產還能通過開源模型或海外無監管介面生成惡意內容，單靠 OpenAI 築高自家圍牆就遠遠不夠。

我們認為，OpenAI 這一步走得相當聰明。在多起訴訟纏身、監管重錘即將落下的關口，主動把執法機構和權威非營利組織拉進自己的陣營，甚至主動呼籲立法，既能分攤合規風險，又能搶先定義「行業合規標準」。

對行業其他玩家來說，這也意味著門檻要提高了。未來做大模型的廠商，如果不能在底層防禦、上報鏈條上拿出對標的投入，很可能會直接面臨執法部門更嚴苛的審視。