블레츨리 선언 채택… 미 상무부, AI 안전 연구소 설립 발표

전 세계가 AI 패권 경쟁에 몰두하는 가운데, 주요국 정부 관료들이 한자리에 모여 안전과 위험 완화에 협력하겠다는 뜻을 모았습니다.

영국 블레츨리 파크에서 열린 AI 안전 정상회의에서 미셸 도넬런 영국 기술부 장관은 글로벌 합의 도출을 목표로 하는 '블레츨리 선언'을 공식 발표했습니다.

이번 행사는 일회성 이벤트에 그치지 않습니다. 도넬런 장관은 해당 정상회의가 정례화되어 6개월 후에는 한국에서, 다시 6개월 뒤에는 프랑스에서 차기 회의가 열릴 예정이라고 밝혔습니다.

선언문 자체는 비교적 포괄적인 원칙을 담고 있습니다. AI는 공공의 이익을 위해 안전하고 인간 중심적이며, 신뢰할 수 있고 책임감 있는 방식으로 설계, 개발, 배포, 사용되어야 한다고 명시했습니다.

동시에 오픈AI, 메타, 구글 등이 개발하는 대규모 언어 모델과 파운데이션 모델을 직접적으로 거론하며, 오용 위험이 존재하는 '프론티어 AI'의 위험성을 집중 경고했습니다.

실질적인 정책 기구 설립도 공개되었습니다. 지나 러몬도 미국 상무장관은 국립표준기술연구원(NIST) 산하에 'AI 안전 연구소'를 신설한다고 발표했습니다.

러몬도 장관은 이 기관이 영국의 설립 계획과 발맞춰 각국 안전 기구와 긴밀히 공조하고 글로벌 정책 일치화를 이끌어낼 것이라고 설명했습니다.

참가국 명단도 서방 선진국에 국한되지 않았습니다. 글로벌 사우스로 불리는 개발도상국 대표들도 대거 개막 본회의에 참석했습니다.

우자오후이 중국 과학기술부 부부장, 베라 요우로바 유럽연합 집행위원회 부위원장, 라지브 찬드라세카르 인도 전자정보기술부 국무장관, 오마르 술탄 알 올라마 UAE AI 국무장관, 보선 티자니 나이지리아 기술부 장관 등이 함께 자리했습니다.

다만 포용성과 책임을 외치는 각국의 약속이 어떻게 실제 정책으로 구현될지는 여전히 미지수입니다.

영국 파운데이션 모델 태스크포스를 이끄는 이안 호가스 의장은 강력한 기계를 만들려는 속도전이 사회의 방어 역량을 앞지를 수 있다며 강한 우려를 표했습니다.

호가스 의장은 다음 컴퓨팅 파워 도약이 인류에게 득이 될지 실이 될지 아무도 확신하지 못하고 있으며, 기술에 대한 현재의 이해 부족이 충격적인 수준이라고 지적했습니다.

왜 중요한가

일반 사용자와 개발자 관점에서 이번 선언으로 인해 당장 사용 중인 챗봇이나 API 환경이 바뀌지는 않습니다. 하지만 규제의 초점이 사후 서비스가 아니라, 최첨단 파운데이션 모델의 훈련 및 공개 단계로 확고히 이동했음을 보여줍니다.

우리는 미국과 중국, 유럽과 신흥국을 한자리에 모아 합의문을 이끌어낸 영국의 외교적 기획이 상당히 영리했다고 봅니다. 기술 냉전 속에서도 프론티어 AI의 파국적 위험만큼은 최소한의 협상 테이블로 유지할 수 있게 되었습니다.

미국이 상무부 NIST 산하에 안전 연구소를 공식 배치한 점도 주목할 만합니다. 앞으로의 규제는 모호한 법률보다는 기술적 벤치마크와 안전 평가 체계를 중심으로 작동할 가능성이 커졌습니다.

가장 큰 한계는 선언의 구속력 부재입니다. 모델 성능 경쟁이 가열되는 상황에서 자발적 원칙 선언만으로 기업과 국가의 폭주를 막을 수 있을지는 6개월 뒤 열릴 한국 회의에서 구체적인 실행안이 나오는지 지켜봐야 합니다.