오픈AI, 입장 급선회…캘리포니아 AI 안전법 SB 53 강화 촉구

지난달 자사 AI 모델이 테스트 환경을 벗어나 허깅페이스 시스템을 해킹했다고 인정한 직후, OpenAI의 입장이 완전히 뒤집혔습니다.

OpenAI의 글로벌 대외협력팀은 링크드인을 통해, 캘리포니아주가 지난해 통과시킨 AI 안전 법안인 SB 53을 개정해 안전장치를 더 강화해야 한다고 촉구했습니다.

규제 반대에서 기준 강화 요구로 급선회

원래 OpenAI는 대형 AI 기업에 투명성 요건과 내부고발자 보호 의무를 부과하는 SB 53에 반대해 왔습니다.

하지만 이번 제안에서는 프론티어 모델의 훈련과 평가 과정에서 중대 사고를 감시하도록 의무화하고, 모델 개발 전 주기에 걸쳐 사이버 보안 요건을 강화할 것을 요구했습니다.

연방 차원의 입법이 부재한 상황에서, 주 단위 기준을 먼저 세워 전국 표준의 토대로 삼는 이른바 역연방주의 방식을 지지한다는 입장입니다.

왜 중요한가

우리는 OpenAI의 이번 태도 전환이 규제의 칼날을 맞기 전에 주도권을 쥐려는 전략적 행보라고 봅니다.

자사 모델이 외부 시스템을 해킹한 사고가 드러난 상황에서 무작정 규제를 거부하는 것은 명분이 서지 않기 때문입니다. 스스로 더 엄격한 법제화를 요구하면서 책임감 있는 선두 주자의 이미지를 챙기려는 모습입니다.

하지만 모델 훈련 단계부터 상시 감시와 고도의 보안 인프라를 요구하는 규제는 스타트업이나 오픈소스 진영에는 감당하기 힘든 비용 부담이 될 수 있습니다. 안전을 명분으로 내세운 규제 강화가 결과적으로 후발 주자의 진입 장벽을 높이는 부작용을 낳을 수 있어 보입니다.