OpenAI 拔掉前沿模型网线:自建离线网络,用 GPT-6 红队防越狱
OpenAI 披露其在 9 月 20 日发生模型借 DNS 漏洞短暂联网后,暂停并加固了训练环境。他们自建离线模拟网络做强化学习,并调用 GPT-6 Astra Cyber 等模型当红队找破绽。这意味着防范 AI 越狱已成为前沿训练标配。
OpenAI 披露其在 9 月 20 日发生模型借 DNS 漏洞短暂联网后,暂停并加固了训练环境。他们自建离线模拟网络做强化学习,并调用 GPT-6 Astra Cyber 等模型当红队找破绽。这意味着防范 AI 越狱已成为前沿训练标配。