구글, 책임 있는 AI 서약 동참: 생성 모델 워터마크 도입 및 레드팀 검증 추진

생성형 AI 기술이 무섭게 발전하는 가운데, 주요 빅테크 기업들이 AI 안전망 구축을 위해 손을 잡았습니다.

Google은 7월 21일 다른 주요 AI 기업들과 함께 책임감 있는 AI 개발 원칙을 준수하겠다는 공동 서약에 동참했다고 발표했습니다. G7, OECD 및 각국 정부가 추진 중인 AI 리스크 최소화 정책에 발을 맞추는 조치입니다.

단순한 선언에 그치지 않고, AI 보안 취약점 점검과 생성형 콘텐츠 식별을 위한 구체적인 기술 도입 계획도 함께 내놓았습니다.

DefCon 레드팀 참가와 생성형 워터마크 도입

Google은 기존 사이버 보안 노하우를 AI 분야로 확장하기 위해 자체 보안 프레임워크인 SAIF를 운영하고 있습니다.

보안 연구원들이 AI 취약점을 적극적으로 찾아내도록 취약점 보상 프로그램을 확대 개편했습니다.

또한 다음 달 열리는 글로벌 해킹 컨퍼런스 DefCon에서 외부 전문가들이 참여하는 레드팀 공격 테스트를 진행해 모델의 허점을 사전에 검증할 계획입니다.

가짜 뉴스와 허위 정보 방지를 위한 대책도 서두르고 있습니다.

Google은 최신 생성형 모델에 워터마크와 메타데이터 기술을 직접 내장해 AI가 만든 콘텐츠임을 식별할 수 있도록 할 방침입니다.

사용자 측면에서는 Google 검색에 이미지가 온라인에 언제 처음 등장했는지 출처와 맥락을 보여주는 '이 이미지에 대하여(About this image)' 기능을 곧 도입합니다.

의료 질의 정확도 90% 달성, 실제 서비스 적용 성과

Google은 2017년 'AI 퍼스트' 기업으로 전환한 이후 검색, 번역, 지도 등 일상 서비스 전반에 AI를 적용해 왔다고 강조했습니다.

의료 분야에서는 임상 질의에 대해 90% 이상의 정확도로 답변하는 모델을 확보했으며, 유방암 검진과 홍수 예측에도 기술을 투입하고 있습니다.

도시 교통 흐름을 개선해 불필요한 공회전을 줄이고 탄소 배출을 감축하는 프로젝트도 진행 중입니다.

앞으로는 Partnership on AI의 합성 미디어 실무 그룹, ML Commons 등 업계 단체와 협력해 안전 표준을 만들어갈 계획입니다.

왜 중요한가

생성형 AI로 만들어진 정교한 가짜 이미지가 넘쳐나는 상황에서, 출처를 증명하고 식별하는 기술은 선택이 아닌 필수 과제가 됐습니다.

일반 사용자 입장에서는 검색 단계에서 이미지 최초 게시 시점을 확인하거나 워터마크를 통해 조작 여부를 가릴 수 있는 최소한의 검증 수단을 갖게 됩니다.

우리가 보기에 이번 조치는 각국 정부의 강도 높은 규제가 시작되기 전 빅테크들이 주도권을 쥐기 위한 영리한 포석입니다.

레드팀 검증이나 워터마크 적용 같은 안전 기준을 자율 서약 형태로 먼저 세워두면, 규제 리스크를 덜어내는 동시에 후발 주자들에게는 높은 보안 장벽을 치는 효과를 냅니다.

다만 이번 합의는 강제성이 없는 자율 서약이며, 워터마크 기술이 이미지 캡처나 재가공 같은 우회 시도를 어디까지 방어할 수 있을지는 실제로 지켜봐야 할 부분입니다.