미 의원들, OpenAI에 서한…차기 모델 출시 전 정부 검증 요구

빅테크 기업들이 AI 모델을 출시하기 전 미국 정부에 사전 검사를 받게 될 가능성이 커졌습니다.

미국 상원 민주당 의원들과 무소속 의원 1명이 OpenAI의 샘 올트먼 CEO에게 서한을 보내 회사의 안전 기준과 내부 고발자 처우 문제를 공식 질의했습니다.

12가지 질문과 타이타닉 경고

워싱턴 포스트가 입수한 이번 서한에는 총 12가지 항목이 담겼습니다. 그중 핵심은 9번째 항목으로, OpenAI가 차세대 파운데이션 모델을 공식 배포하기 전에 미국 정부 기관에 사전 테스트, 검토, 분석 및 평가를 위해 제공할 것을 약속할 수 있는지 묻는 내용입니다.

의원들은 또한 OpenAI가 현재 AI 안전 연구에 투입하는 컴퓨팅 자원의 비율을 밝히고, 전체 연산력의 20%를 안전 연구에 배정하겠다는 약속을 하라고 요구했습니다. 외부 악의적 공격자나 해외 적대 세력이 AI 기술을 탈취하지 못하도록 막는 보안 프로토콜도 요구 목록에 포함됐습니다.

이번 조사는 내부 고발자들의 폭로가 기폭제가 됐습니다. 고발자들은 OpenAI가 GPT-4 Omni의 출시 일정을 맞추기 위해 안전 기준을 완화했다고 주장했습니다.

안전 문제를 경영진에 제기한 직원들이 보복을 당하고 불법 소지가 있는 비밀유지계약에 묶였다는 주장도 나왔으며, 이들은 2024년 6월 미국 증권거래위원회에 공식 고발장을 제출했습니다.

퇴사자들의 경고도 이어졌습니다. 최근 퇴사 이유를 밝힌 전 직원 윌리엄 손더스는 OpenAI의 연구 궤적이 1912년 타이타닉호 침몰과 비슷하다며, 현재 모델이 아니라 미래에 등장할 초인공지능 연구가 인류에 실존적 위협이 될 수 있다고 지적했습니다.

규제 압박이 거세지자 주요 파트너들도 발을 빼고 있습니다. 130억 달러를 투자한 마이크로소프트와 애플은 규제 당국의 감시 강화로 인해 7월 OpenAI 이사회 옵서버 및 참여 자격을 포기했습니다.

왜 중요한가

일반 이용자와 개발자 관점에서 당장 쓰던 API나 ChatGPT 서비스가 멈추지는 않습니다. 하지만 정부의 사전 검토가 의무화될 경우 차세대 모델의 출시 주기가 크게 늘어날 수밖에 없으며, 최신 기술을 빠르게 도입하려던 계획에 차질이 생길 수 있습니다.

업계 전체에는 규제의 판도가 사후 처벌에서 출시 전 통제로 바뀌는 중대한 분기점입니다. OpenAI가 정부 기관의 사전 검증을 수용하게 된다면, 앤트로픽이나 구글 같은 경쟁사들도 동일한 수준의 정부 사전 검토를 요구받게 될 것이며, 이는 프론티어 AI 모델의 경쟁 방식을 완전히 바꿀 수 있습니다.

의원들이 20% 연산력 약속과 내부 고발자 탄압이라는 OpenAI의 가장 아픈 구석을 파고든 점은 매우 영리해 보입니다. 다만 우리는 이 요구에 심각한 현실적 한계가 존재한다고 생각합니다. 현재 미국 정부 기관이 파라미터가 수천억 개에 달하는 초거대 모델을 단기간에 정밀 검증할 자체 인프라와 전문 인력을 갖추고 있는지는 출처에 나타나지 않았습니다. 기술적 역량이 부족한 상태에서 검증 절차만 도입될 경우, 심각한 행정 지연을 초래하거나 혁신 속도를 늦추는 부작용으로 이어질 수 있습니다.