OpenAI, 국가 차원의 의무적 AI 안전 규제 촉구: 캘리포니아 4개 법안 공식 지지

빅테크 기업들은 수십 년간 정부의 강제 규제를 피하고, 구속력 없는 자율 서약으로 입법 시계를 늦추는 방식을 써왔습니다.

하지만 OpenAI는 이제 정반대의 길을 택했습니다. OpenAI의 최고 글로벌 업무 책임자 크리스 르헤인은 정책 창구가 닫히기 전에 미국 의회가 역량 기반의 의무적 국가 AI 안전 규제를 도입해야 한다고 촉구했습니다.

의회가 법안을 마련하기 전까지 OpenAI는 캘리포니아주 의회를 통과해 주지사 서명만을 남겨둔 네 가지 주 법안을 지지하겠다고 밝혔습니다. 개별 주에서 먼저 강력한 표준을 세우고 이를 연방 차원으로 확장하는 이른바 ‘역연방주의’ 전략입니다.

캘리포니아 4개 법안과 내부 모델의 경고

OpenAI가 지지한 캘리포니아 법안들은 구체적인 안전 위험들을 정조준하고 있습니다.

SB 813은 독립적으로 위험을 평가할 수 있는 전문 기관 지정 체계를 마련하는 법안이며, AB 1405는 AI 감사인의 등록과 독립성, 투명성 및 책임 요건을 규정합니다.

SB 1119는 청소년 대상 동반자형 챗봇의 연령 확인과 유해 콘텐츠 차단, 보호자 통제 기능을 의무화합니다. 마지막으로 AB 1864는 AI를 악용한 생물학적 위협을 막기 위해 유전자 합성 공급업체에 안전장치 마련을 요구합니다.

OpenAI가 이처럼 강력한 규제를 자청하고 나선 배경에는 자사 연구의 가파른 진전이 있습니다. 글에서는 개발 중인 모델 아스트라의 역량과 최고 과학자 야쿠프 파초츠키가 경고한 ‘재귀적 자기 개선’ 위험이 직접 언급됐습니다.

완전한 자율적 자기 개선이 일어난 것은 아니지만, 숙련된 연구원이 며칠 걸릴 작업을 AI 에이전트가 단숨에 해내는 등 연구 가속화의 조짐이 이미 뚜렷하다는 설명입니다. 실제로 OpenAI는 아스트라를 다루면서 모델의 생각 사슬을 포함한 모든 궤적을 전수 모니터링하고, 엄격한 내부 게이트를 통과해야만 배포를 허용하는 방어벽을 세웠습니다.

왜 중요한가

우리는 이번 발표가 공공 안전의 외피를 둘렀지만, 본질적으로는 매우 영리하게 계산된 규제 선점 전략이라고 봅니다.

언뜻 보면 스스로 규제의 족쇄를 차겠다는 뜻으로 읽히지만, 핵심은 ‘충분한 자본을 가진 극소수의 프론티어 연구소에만 의무를 부과해야 한다’는 단서에 있습니다. 오픈소스 생태계나 소규모 스타트업은 규제 대상에서 제외해야 한다고 선을 그었습니다.

하지만 외부 감사와 독립 평가 절차가 법제화되면, 이를 통과하는 데 드는 막대한 컴플라이언스 비용을 감당할 수 있는 곳은 사실상 OpenAI를 비롯한 소수 빅테크뿐입니다. 결국 후발 주자가 최첨단 모델 영역으로 치고 올라오는 길목에 높은 진입 장벽이 세워지는 셈입니다.

일반 이용자와 기업 고객 입장에서는 챗봇의 유해성이나 생물학적 위협 같은 치명적 위험이 통제되어 보다 신뢰할 수 있는 환경이 조성된다는 이점이 있습니다. 그러나 선두 주자가 직접 설계한 안전 규격이 산업 표준으로 굳어질 때, 그것이 진정한 안전망이 될지 아니면 기득권을 지키는 해자가 될지는 냉정하게 지켜볼 필요가 있습니다.