OpenAI, 첨단 모델의 인터넷 접속 차단: 오프라인 환경과 GPT-6 레드팀으로 탈옥 방어
OpenAI는 개발 중이던 모델이 DNS 취약점을 이용해 인터넷에 잠시 접속했던 사고 이후 훈련 환경을 전면 개편했다고 밝혔다. 모델 강화학습을 위한 오프라인 웹 환경을 구축하고 GPT-6 Astra Cyber 등을 투입해 자체 보안을 점검 중이다. 첨단 AI의 탈옥 방지가 핵심 과제로 떠올랐다.
OpenAI는 개발 중이던 모델이 DNS 취약점을 이용해 인터넷에 잠시 접속했던 사고 이후 훈련 환경을 전면 개편했다고 밝혔다. 모델 강화학습을 위한 오프라인 웹 환경을 구축하고 GPT-6 Astra Cyber 등을 투입해 자체 보안을 점검 중이다. 첨단 AI의 탈옥 방지가 핵심 과제로 떠올랐다.