메타와 Inria, AI 모델 내부에 비가시성 워터마크 새기는 '스테이블 시그니처' 공개
메타 FAIR와 Inria가 오픈소스 생성형 AI 이미지를 추적하는 워터마크 기술 '스테이블 시그니처'의 논문과 코드를 공개했다. 생성 후 워터마크를 입히는 대신 모델 디코더에 직접 삽입해 이미지 크롭이나 압축, 미세조정 후에도 지워지지 않는다. 오탐률을 극단적으로 낮춰 AI 생성 이미지의 유통 경로를 정확히 추적할 수 있다.
AI 안전
최신 소식 보기
메타 AI 스티커 안전망 구멍 숭숭… 총기 든 아동 등 논란 이미지 생성
외신에 따르면, 메타가 도입한 Emu 기반 AI 스티커 생성 기능의 필터링에 허점이 드러났다. 노골적인 금지 단어는 차단되지만 표현을 조금만 바꾸면 총을 든 어린이나 폭력적인 풍자 이미지가 쉽게 생성되어 대규모 배포 과정의 안전성 논란이 불거졌다.
AI가 바꾸는 보험 인수 심사: 언더라이팅의 새로운 패러다임
AI와 머신러닝이 보험 언더라이팅 프로세스를 혁신하는 방안이 제시됐다. 수작업 심사의 오랜 소요 시간과 오류 위험을 줄이기 위해, AI는 텍스트와 음성 등 비정형 데이터를 분석해 정밀한 위험 평가를 제공한다. 단순 반복 업무를 자동화해 심사역이 복잡한 고객 서비스와 사기 탐지에 집중하도록 돕는 구조다.
메릴랜드대 연구진, AI 워터마크 전멸 판정: 전부 무력화되고 위조까지 가능
메릴랜드대 연구진은 현존하는 모든 AI 이미지 워터마킹 기술이 무력화될 수 있다는 사전 연구 결과를 공개했다. 공격자는 눈에 보이지 않는 워터마크를 지우는 것은 물론, 인간이 만든 이미지에 워터마크를 덧씌워 오탐을 유발할 수도 있다. 빅테크들이 가짜 뉴스 방지책으로 내세운 워터마크의 한계가 드러난 셈이다.
구글, 검색 노출 유지하며 AI 학습만 거부하는 'Google-Extended' 출시
구글은 웹사이트 운영자가 검색 노출을 유지하면서 AI 학습 데이터 수집만 거부할 수 있는 'Google-Extended'를 발표했다. robots.txt 파일에 태그를 넣는 방식이며, 사이트 운영자는 검색 유입을 포기하지 않고도 Bard와 Vertex AI의 데이터 스크래핑을 차단할 수 있게 됐다.
구글, 10대 청소년 대상 생성형 AI 검색 개방…안전장치 대폭 강화
구글이 미국 내 13~17세 청소년을 대상으로 생성형 AI 검색(SGE)을 개방한다고 발표했습니다. 괴롭힘이나 불법 물질 관련 답변을 차단하는 안전 가드레일을 추가하고, 답변의 출처를 파악할 수 있는 기능과 거짓 전제의 질문을 감지하는 모델 업데이트를 함께 적용했습니다.
메타, 28개 AI 캐릭터 전용 SNS 프로필 공개…유명인 외형 적용해 DM 대화 지원
메타가 Connect 행사에서 고유한 개성을 가진 28개 AI 캐릭터의 페이스북 및 인스타그램 프로필을 공개했다. 일부 캐릭터는 유명 공인의 외형을 모델로 삼았으며, 미국 베타 사용자는 메신저나 인스타그램 DM을 통해 이들과 직접 대화를 나눌 수 있다.
미국작가조합 파업 종료: 대본 집필 시 AI 강제 사용 금지 등 규제 합의
미국작가조합(WGA)이 5개월간의 파업을 종료했다. 새롭게 마련된 3년 계약에는 엄격한 생성형 AI 규제가 담겨, 제작사가 작가에게 ChatGPT 등 AI 도구 사용을 강제할 수 없으며 AI 생성물을 원작으로 인정하지 않기로 했다. 창작 산업에서 AI 도입의 중요한 기준선이 마련됐다.
구글 검색, 바드 공유 대화 공개 인덱싱 논란…구글 "차단 작업 중"
사용자가 공유 링크를 생성한 구글 바드 대화가 구글 검색 결과에 그대로 노출되는 문제가 발견됐다. 구글 측은 공유 대화가 검색에 노출되는 것은 의도한 동작이 아니며, 인덱싱을 차단하는 조치를 진행 중이라고 밝혔다.
할리우드 작가 파업 종결: AI 대본 집필과 챗GPT 사용 강제 금지 합의
미국작가조합이 제작사들과 잠정 합의를 이루며 148일간 이어진 파업을 끝냈습니다. 새 계약은 AI가 대본을 직접 쓰거나 각색할 수 없도록 규정했고, 작가에게 챗GPT 사용을 강요하거나 AI 생성물을 원작으로 취급하지 못하게 막았습니다. 생성형 AI로부터 창작자를 보호하는 주요 기준선이 마련됐습니다.
게티이미지, 자체 라이선스 데이터로만 학습한 상업용 생성 AI 출시
게티이미지가 엔비디아와 협력해 자체 라이선스 이미지로만 학습한 이미지 생성 도구 'Generative AI by Getty Images'를 출시했다. 상업적 이용 시 완전한 저작권 면책을 보장하며, 실존 인물이나 특정 예술가 화풍 생성은 차단된다. 저작권 소송 리스크를 피하려는 기업 고객을 정조준한 행보다.
UPS, 택배 도난 막는 AI '딜리버리디펜스' 본격 도입
미국 UPS 캐피털이 택배 절도를 예방하는 AI 서비스 '딜리버리디펜스'의 확장 계획을 밝혔다. 수십억 건의 배송 기록을 분석해 주소지별 안전 점수를 1~1,000점으로 매기며, 위험 주소지는 매장 수령 등으로 우회할 수 있다. 10월 18일에는 중소기업용 웹 버전도 월 99달러에 출시될 예정이다.
‘왕좌의 게임’ 원작자 등 유명 작가들, OpenAI 저작권 침해로 제소
미국작가조합과 조지 R.R. 마틴 등 유명 작가 17명이 OpenAI를 상대로 저작권 침해 소송을 제기했다. 허가 없이 책을 대형언어모델 학습에 사용해 작가 생계를 위협했다는 주장으로 집단소송을 추진 중이며, OpenAI는 원활한 대화를 나누고 있다고 밝혔다.
로블록스, 음성 AI 스타트업 스피칠리 인수…실시간 음성 검열 강화
로블록스가 핀란드의 음성 AI 스타트업 스피칠리(Speechly)를 인수했다고 밝혔다. 스피칠리는 실시간 음성 전사 및 유해 행위 필터링 기술을 보유하고 있다. 로블록스는 음성 채팅과 아바타 기반 통화 기능을 확장하는 과정에서 커뮤니티 안전성을 높이기 위해 이번 인수를 추진했다.
틱톡, AI 콘텐츠 라벨 도입: 사실적인 AI 영상 표기 의무화
틱톡이 AI로 생성되거나 대폭 편집된 게시물에 라벨을 붙이는 도구를 공개했다. 사실적인 이미지나 오디오가 포함된 AI 콘텐츠는 표시가 의무화되며, 자체 필터 이름에도 'AI'가 추가된다. 틱톡은 수동 표기 누락을 막기 위해 자동 감지 알고리즘도 개발 중이다.
OpenAI, '레드팀 네트워크' 발족… 외부 전문가와 AI 안전성 상시 검증
OpenAI는 외부 분야별 전문가를 영입해 AI 모델 위험성을 사전 검증하는 'OpenAI 레드팀 네트워크'를 발표했다. 참여자에게는 보수가 지급되며, 연간 최소 5~10시간만 활동해도 된다. 대형 모델 출시 전 일회성 테스트에 머물지 않고, 다양한 시각을 상시 반영하는 지속적인 보안 평가 체계를 구축하려는 행보다.
마이크로소프트 AI 연구팀, 설정 실수로 사내 기밀 데이터 38TB 노출
마이크로소프트 AI 연구팀이 깃허브에 오픈소스 모델을 공유하는 과정에서 Azure 공유 토큰 권한 설정 오류로 38TB의 내부 데이터를 노출했다. 개인 암호 키와 직원 비밀번호, 3만 건 이상의 Teams 메시지가 포함되었으며, 보안 기업 위즈의 제보를 받은 마이크로소프트는 해당 토큰을 취소하고 조치를 완료했다.
메타피직, 톰 행크스 등 헐리우드 스타들의 AI 초상권 관리 플랫폼 공개
생성형 AI 기업 메타피직이 배우의 얼굴과 음성 등 개인 데이터를 관리하는 플랫폼 '메타피직 프로'를 발표했습니다. 톰 행크스와 앤 해서웨이 등이 초기 사용자로 참여했습니다. 헐리우드에서 AI 권리 분쟁이 커지는 가운데, 배우가 디지털 분신의 권리와 보상을 직접 통제하도록 돕는 시도입니다.
저커버그, 미 의회 AI 포럼서 오픈소스 전략과 안전성 강조
메타 CEO 마크 저커버그가 미 상원 AI 포럼에서 AI 발전의 양대 핵심 과제로 안전과 접근성을 꼽았습니다. 그는 Llama 2를 들며 오픈소스가 보안과 기술 표준 선점에 유리하다고 옹호하는 한편, 초지능 수준에 근접하면 접근 방식을 재검토하겠다고 밝혔습니다.
퓰리처상 수상 작가 등, 저작권 침해 혐의로 OpenAI 집단소송
외신에 따르면, 마이클 셰이본과 데이비드 헨리 황 등 저명 작가들이 OpenAI를 상대로 저작권 침해 집단소송을 냈다. 이들은 OpenAI가 저작물을 무단 학습해 GPT 모델을 만들었다고 주장하며, ChatGPT의 정밀한 요약 기능을 근거로 배상과 침해 중단을 요구했다.