미 국토안보부 AI 안전 위원회 발족: 올트먼·나델라·피차이 합류

만약 국가 전력망이 AI를 악용한 해킹으로 마비되거나 공항 관제 시스템이 멈춘다면 어떻게 해야 할까요? 미국 정부가 첨단 AI를 만드는 빅테크 수장들과 인프라를 지키는 현장 책임자들을 한자리에 모았습니다.

미국 국토안보부(DHS)는 4월 26일 전력망과 공항 등 핵심 기반 시설을 인공지능 관련 위협으로부터 보호하기 위한 자문 기구인 '인공지능 안전 및 보안 위원회'를 공식 출범시켰습니다. 초기 위원 22명의 명단은 상당한 무게감을 자랑합니다.

오픈AI의 샘 올트먼 CEO를 비롯해 마이크로소프트의 사티아 나델라 CEO 겸 이사회 의장, 알파벳의 순다르 피차이 CEO가 창립 멤버로 합류했습니다.

빅테크와 기간산업 수장들의 만남

이번 위원회 발족은 조 바이든 미국 대통령이 지난 10월 서명한 광범위한 AI 행정명령에 따른 후속 조치입니다. 챗GPT 돌풍 이후 연방 정부가 AI 기술 규제와 안전망 구축에 본격적으로 뛰어든 상징적인 움직임입니다.

위원회의 목표는 명확합니다. 국가 안보나 경제, 공공 보건 및 안전에 영향을 미칠 수 있는 중요 서비스 중단을 예방하고 대비하기 위한 권고안을 만드는 것입니다.

전문가들이 경고하는 위협은 자율 비행 드론 무기, 저비용 생물학 무기 제작 지원, 핵심 전산망을 겨냥한 고도화된 사이버 공격 등입니다. 국토안보부는 이러한 공격을 막아내기 위해 'AI를 AI로 맞상대하는' 방어책도 적극 검토하고 있습니다.

눈에 띄는 점은 빅테크 대표들만 모아둔 자리가 아니라는 사실입니다. 델타항공, 방산 기업 노스롭 그루먼, 석유 생산업체 옥시덴탈 페트롤리움의 CEO들이 대거 참여했습니다. 여기에 메릴랜드주 주지사 웨스 무어, 브루스 해럴 시애틀 시장, 시민권 단체 대표 2명까지 이름을 올렸습니다.

알레한드로 마요르카스 국토안보부 장관은 성명을 통해 AI가 국가적 이익을 발전시킬 수 있지만 실질적인 위험도 안고 있다며, 모범 사례를 도입하고 구체적인 조치를 취해 위험을 줄여나가겠다고 밝혔습니다.

왜 중요한가

에너지, 교통, 통신 등 기간망과 연계된 시스템을 다루는 기업과 실무자들에게 이번 위원회 출범은 중요한 기준점이 됩니다. 연방 정부가 요구할 핵심 인프라 보안 지침과 조달 기준이 이곳에서 구체화될 가능성이 높기 때문입니다.

프론티어 모델을 만드는 기술 공급자와 이를 직접 공격받을 수 있는 현장 운영자를 한곳에 묶어놓은 방식은 영리해 보입니다. 탁상공론식 규제를 피해 실제 항공, 파이프라인, 전력망 현장에 들어맞는 실무 가이드라인을 끌어낼 수 있습니다.

하지만 명암도 뚜렷합니다. 오픈AI, 마이크로소프트, 알파벳 등 이미 시장을 장악한 거대 기업들이 안전 기준이라는 '게임의 룰'을 직접 설계하게 되는 셈입니다. 우리가 보기에 이는 자칫 스타트업이나 오픈소스 진영의 인프라 시장 진입을 가로막는 규제 장벽으로 작동할 수 있다는 우려를 남깁니다.