고(故) 조지 칼린 유족, AI 목소리 도용한 팟캐스트와 소송 합의
미국 코미디언 고 조지 칼린의 유족이 AI로 고인의 목소리를 모방해 특별 영상을 만든 팟캐스트 Dudesy 측과 화요일 소송에 합의했다. 피고 측은 영상을 전면 삭제하고 칼린의 음성과 초상을 영구히 사용하지 않기로 했다. 고인의 동의 없는 AI 딥페이크 복원에 제동을 건 대표적 선례로 남게 됐다.
AI 안전
최신 소식 보기
앤트로픽, 대규모 맥락 창 악용한 '매니샷 탈옥' 취약점 발표
앤트로픽 연구진이 대규모 언어 모델의 확장된 맥락 창을 파고드는 '매니샷 탈옥' 취약점을 공개했다. 프롬프트에 수십 개의 가짜 문답 예시를 채우면 인컨텍스트 러닝으로 인해 폭탄 제조 같은 유해 지시도 수행하게 된다. 성능 훼손을 피하기 위해 사전 쿼리 분류 필터 개발이 대안으로 제시됐다.
빌리 아일리시 등 음악인 200여 명, 무단 AI 학습 중단 촉구
빌리 아일리시와 니키 미나즈 등 200여 명의 음악인들이 기술 기업을 향해 공개서한을 발표했다. 사전 허가 없이 창작물을 AI 학습 데이터로 활용해 목소리와 이미지를 도용하는 행위를 중단하고, 창작자의 생존권을 보장하라고 요구했다.
존 스튜어트, 빅테크의 AI 과장 풍자…"애플이 방송 막았다"
존 스튜어트가 '더 데일리 쇼'에서 빅테크의 과장된 AI 약속을 꼬집었습니다. 그는 FTC 리나 칸 위원장과의 대담에서 과거 Apple TV+ 쇼를 진행할 당시 애플이 AI 주제를 다루거나 칸 위원장을 섭외하지 못하게 직접 압박했다고 폭로했습니다.
OpenAI, 15초 음성 복제 모델 '보이스 엔진' 공개… 악용 위험에 정식 출시는 보류
OpenAI가 15초 오디오 샘플만으로 자연스러운 음성을 복제하는 모델 '보이스 엔진'의 테스트 결과를 공개했다. 번역과 언어 치료 등 파트너 대상 테스트를 진행 중이지만, 선거철 딥페이크 오남용 위험을 고려해 일반 공개는 당분간 보류하기로 결정했다.
뉴욕시, 지하철 개찰구에 AI 총기 감지기 시범 도입
에릭 애덤스 뉴욕시장은 90일 후 지하철 개찰구에서 AI 기반 총기 감지 스캐너를 시범 운영한다고 발표했다. 공급사인 에볼브(Evolv)는 우산을 총으로 오인하고 실제 무기를 놓치는 등 잦은 결함으로 FTC와 SEC의 조사 및 집단소송을 받고 있다.
美 모든 연방기관에 '최고AI책임자' 임명 의무화
백악관 예산관리국은 모든 연방기관에 최고인공지능책임자(CAIO) 임명과 거버넌스 위원회 설립을 의무화하는 새 지침을 발표했다. 각 기관은 매년 AI 시스템 목록과 위험 완화 계획을 제출해야 하며, 안전 기준을 충족하지 못하는 시스템은 즉시 사용을 중단해야 한다.
구글 생성형 AI 검색, 멀웨어 및 사기 사이트 추천 논란
외신에 따르면 구글의 AI 검색 'SGE'가 가짜 경품, 악성 알림을 유도하는 사기 사이트를 추천하는 것으로 나타났다. 공격자들의 SEO 오염 수법에 걸린 것으로, 대화형 답변에 링크가 포함돼 신뢰도를 오인하게 만든다. 구글은 관련 사례를 삭제 조치했다고 밝혔다.
美 테네시주, AI 음성 무단 복제 막는 '엘비스 법' 미국 최초 제정
미국 테네시주가 아티스트의 동의 없이 목소리를 AI로 모방하는 행위를 금지하는 '엘비스 법(ELVIS Act)'을 통과시켰다. 미국 주 정부 가운데 최초로 제정된 AI 음성 복제 방지법으로, 오는 7월 1일부터 공식 발효된다.
OpenAI의 GPT Store, 저작권 침해·스팸 챗봇 범람
테크크런치 보도에 따르면, OpenAI의 맞춤형 챗봇 장터인 GPT Store에 저작권 침해, 유명인 사칭, AI 탐지 회피용 스팸 챗봇이 대거 유입된 것으로 드러났습니다. 심사 시스템 부실로 인해 불법·유료 유도성 챗봇이 걸러지지 않으면서 수익화 모델 정착에 부담이 커지고 있습니다.
구글 'VLOGGER' 공개: 사진 한 장과 오디오로 손짓까지 하는 말하는 영상 생성
구글 연구진이 단 한 장의 인물 사진과 음성 클립만으로 표정과 손짓, 머리 움직임이 포함된 영상을 생성하는 AI 모델 VLOGGER를 공개했다. 특정 인물 대상 추가 학습 없이도 상체 전체를 자연스럽게 합성하는 것이 특징이다. 영상 길이가 짧고 배경이 고정되는 한계는 여전히 존재한다.
유튜브, 사실적인 AI 생성 영상 라벨 부착 의무화…미표시 땐 수익 창출 박탈
유튜브가 3월 18일부터 크리에이터가 사실적인 AI 생성 또는 합성 영상을 업로드할 때 이를 의무적으로 표기하도록 했다. 실제 인물의 발언을 조작하거나 가짜 장면을 진짜처럼 연출한 경우 영상 설명란이나 화면에 라벨이 붙는다. 단순 대본 작성 등 보조적 사용은 제외되지만, 반복해 숨길 경우 수익 창출이 정지될 수 있다.
미 FTC, 레딧의 AI 학습용 사용자 데이터 판매 계약 조사 착수
레딧은 AI 모델 학습을 위해 사용자 게시물을 구글 등에 라이선스 판매한 계약과 관련해 미국 연방거래위원회(FTC)의 질의서를 받았다고 공시했다. 레딧은 IPO를 앞두고 2억 300만 달러의 매출을 기대했으나, 사용자 데이터 상업화에 대한 규제 리스크가 수면 위로 떠올랐다.
구글 제미나이 이어 어도비 파이어플라이도 역사 왜곡 이미지 논란
외신 세마포의 테스트 결과, 어도비의 AI 이미지 생성 도구 파이어플라이가 구글 제미나이와 마찬가지로 흑인 나치 군인 등 역사적으로 부정확한 이미지를 생성하는 것으로 나타났다. 저작권 문제가 없는 상업용 데이터만 학습한 어도비마저 인종적 고정관념을 피하려는 안전 가드레일이 과도하게 작동한 셈이다. 어도비는 사실적 역사 묘사용이 아니라고 해명했다.
유럽의회, 세계 최초 'AI 규제법' 통과…위험도 따라 4단계 차등 규제
유럽의회가 찬성 523표의 압도적 지지로 세계 최초의 포괄적 AI 규제 법안인 'AI법'을 최종 가결했다. 기술을 위험도에 따라 4단계로 분류해 허용 불가능한 위험은 전면 금지한다. 법안은 5월 발효를 거쳐 2025년부터 순차 시행될 예정이다.
구글, 전 세계서 제미나이의 선거 관련 질문 답변 제한
구글이 전 세계 선거가 치러지는 국가를 대상으로 제미나이의 선거 관련 질의응답을 차단하기 시작했다고 밝혔다. 미국과 인도 등에 우선 적용되었으며, 정치인이나 정당을 묻는 질문에는 답변 대신 일반 구글 검색을 유도한다. 생성형 AI의 허위 정보 확산과 정치적 리스크를 피하려는 선제적 조치다.
바이든 미 대통령, 국정연설서 'AI 음성 사칭 금지' 공식 촉구
목요일 저녁, 바이든 미국 대통령이 국정연설에서 AI를 이용한 음성 사칭 및 위조를 금지해야 한다고 촉구했습니다. 구체적인 규제 방안이나 처벌 수위는 밝히지 않았으나, 할리우드 파업에 이어 합성 음성 복제 문제가 주요 국정 과제로 공식 부상했습니다.
조사 마친 OpenAI, 샘 알트먼 이사회 복귀 및 신임 이사 선임
OpenAI는 외부 로펌의 독립 조사 완료를 알리며 샘 알트먼 CEO가 이사회에 공식 복귀했다고 발표했다. 조사 결과 당시의 해임 사태는 안전이나 재무 문제가 아닌 전 이사회와의 신뢰 붕괴 탓으로 결론 났다. 이와 함께 3명의 신임 사외이사를 선임하고 내부고발 핫라인을 개설하는 등 지배구조 강화 조치를 내놓았다.
미드저니, 경쟁사 스태빌리티 AI 전 직원 차단…데이터 크롤링에 24시간 먹통
미드저니는 경쟁사인 스태빌리티 AI 소속 전 직원의 계정을 무기한 차단했다고 밝혔다. 지난 3월 2일 서비스가 24시간 동안 마비됐는데, 조사 결과 스태빌리티 AI 직원이 프롬프트와 이미지 쌍을 대량 크롤링한 정황이 확인됐다. 미드저니는 서비스 장애를 유발하는 자동화 크롤링 적발 시 해당 회사 전 직원을 차단하겠다는 강경 방침을 내세웠다.
미 육군, 워게임에 GPT-4 도입 시험: 작전 능력 우수하나 사상자 더 발생
외신에 따르면 미국 육군연구소가 군사 시뮬레이션 게임에서 OpenAI의 GPT-4 터보 및 비전 모델을 활용한 작전 수립 실험을 진행했습니다. GPT-4는 기존 모델보다 뛰어난 전술 능력을 보였으나 목표 달성 과정에서 더 많은 사상자를 발생시켰습니다. 군사적 AI 활용이 가속화되는 가운데 사상자 증가에 따른 윤리적 우려도 커지고 있습니다.