OpenAI, 차기 모델 안전성 검증 위해 미 AI 안전 연구소에 사전 공개 약속

오픈AI CEO 샘 올트먼이 미국 인공지능 안전 연구소(U.S. AI Safety Institute)에 차기 주력 생성형 AI 모델을 사전 제공해 안전성 테스트를 진행하기로 합의 중이라고 밝혔습니다.

올트먼은 목요일 늦은 밤 X를 통해 이 소식을 전했습니다. 세부 사항은 구체적으로 공개되지 않았지만, 지난 6월 영국 AI 안전 기관과 맺은 협약에 이어 나온 조치입니다. 최근 오픈AI가 제품 출시에 눈이 멀어 AI 안전 연구를 뒷전으로 밀어냈다는 비판을 잠재우려는 의도로 풀이됩니다.

해체된 안전 조직과 의회의 거센 압박

오픈AI는 지난 5월 초지능 AI의 통제 불능을 방지하기 위해 꾸렸던 슈퍼얼라인먼트 팀을 사실상 해체했습니다.

당시 안전 연구보다 상용화 일정을 우선시했다는 내부 폭로가 이어졌고, 팀을 이끌던 일리야 수츠케버와 얀 라이케가 연이어 회사를 떠났습니다. 라이케는 경쟁사인 앤트로픽의 안전 연구 책임자로 자리를 옮겼고, 수츠케버는 세이프 슈퍼인텔리전스라는 회사를 직접 차렸습니다.

논란이 커지자 오픈AI는 내부 고발을 위축시키던 퇴사자 비밀유지 및 비방 금지 조항을 무효화하고, 사내 안전위원회를 신설하며 전체 컴퓨팅 자원의 20%를 안전 연구에 배정하겠다고 약속했습니다. 하지만 안전위원회가 올트먼을 포함한 전원 내부 임원으로 채워지면서 진정성을 의심하는 시선은 가라앉지 않았습니다.

결국 미 의회까지 나섰습니다. 민주당 브라이언 샤츠 상원의원을 포함한 5명의 의원이 오픈AI의 안전 정책에 의문을 제기하는 서한을 보냈고, 제이슨 권 오픈AI 최고전략책임자는 모든 개발 단계에서 엄격한 안전 프로토콜을 적용하고 있다는 서한으로 진화에 나섰습니다.

로비 자금 3배 급증과 규제 포획 논란

미국 안전 연구소와의 협력 시점을 두고 워싱턴 정가에서는 곱지 않은 시선도 나옵니다.

오픈AI는 이번 발표 며칠 전, 상무부 산하 미국 표준기술연구소(NIST)에 속한 AI 안전 연구소를 공식 집행 기관으로 지정하는 법안인 '미래 혁신법'에 지지를 표명했습니다. 표준을 정할 정부 기구를 지원하면서 자사 모델을 가장 먼저 검증받게 함으로써, 연방 정책에 영향력을 행사하려는 이른바 '규제 포획' 시도가 아니냐는 지적입니다.

실제로 오픈AI의 연방 로비 자금은 폭발적으로 늘었습니다. 2023년 한 해 동안 26만 달러에 불과했던 로비 지출은 2024년 상반기에만 80만 달러로 세 배 넘게 뛰었습니다. 올트먼은 국토안보부 AI 안전 자문위원회 위원으로도 활동 중입니다.

현재 미 AI 안전 연구소는 오픈AI를 비롯해 앤트로픽, 구글, 마이크로소프트, 메타, 애플, 아마존, 엔비디아 등이 참여하는 민관 컨소시엄을 통해 바이든 대통령의 AI 행정명령 후속 조치를 마련하고 있습니다. 레드팀 테스트, 기능 평가, 위험 관리, 합성 콘텐츠 워터마크 기준 등이 주요 과제입니다.

왜 중요한가

차기 오픈AI 모델을 기다리는 개발자와 기업 입장에서는 정식 출시까지 걸리는 시간이 다소 길어질 수 있습니다. 다만 정부 기관의 사전 안전성 검증을 거친다는 점은, 향후 엔터프라이즈 환경에서 도입을 검토할 때 법적 리스크를 줄여주는 안전판 역할을 할 수 있습니다.

업계 관점에서 보면 오픈AI는 매우 영리한 방어 전략을 구사하고 있습니다. 안전 소홀 논란으로 사나워진 의회의 시선을 분산시키는 동시에, 안전 기준을 세우는 핵심 기구와 밀착해 후발 주자들이 넘기 힘든 규제 문턱을 함께 짜고 있는 모양새입니다.

다만 사내 안전위원회가 여전히 내부자들로만 운영되고 있고, 과거 약속했던 컴퓨팅 자원 배분이 지켜지지 않았던 전례를 보면 투명성 문제는 완전히 해소되지 않았습니다. 그럼에도 프런티어 모델의 출시 전 정부 기관 사전 검증은 점차 업계의 피할 수 없는 표준 절차로 굳어질 것으로 보입니다.