오픈AI, 美 의회에 경고 "딥시크, 美 AI 모델 '증류'해 무임승차"
목요일 오픈AI는 미국 의회에 제출한 메모를 통해 중국 딥시크가 접근 제한을 우회해 챗GPT 등 미국 모델의 출력을 '증류' 방식으로 학습에 무단 활용하고 있다고 주장했다. 오픈AI는 딥시크가 우회 경로와 스크립트로 데이터를 빼냈다고 지적했으나, 딥시크 측은 입장을 밝히지 않았다.
AI 안전
최신 소식 보기
디즈니, 바이트댄스에 경고장 발송…AI 영상 모델 '시댄스 2.0' 저작권 침해 반발
디즈니가 바이트댄스의 새 AI 동영상 모델 '시댄스 2.0'이 스타워즈와 마블 등 자사 IP를 무단 도용했다며 침해 중단 요구 서한을 보냈다. 유명 배우와 캐릭터의 딥페이크 영상이 확산하며 할리우드 전반의 공분을 사자 바이트댄스는 안전 조치 강화에 나서겠다고 밝혔다.
스카스가드 "화제의 광고 진짜 찍은 것", 오픈AI는 "우린 모르는 일"
배우 알렉산더 스카스가드는 온라인에서 화제가 된 광고가 딥페이크가 아닌 실제 촬영물이라고 확인했다. 반면 오픈AI와 그렉 브록먼 사장은 해당 영상이 회사와 전혀 무관하다며 관여 사실을 전면 부인했다. 광고를 누가 제작했는지는 아직 밝혀지지 않았다.
앤트로픽, 철학자 영입해 클로드 윤리 교육: 3만 단어 AI 헌법 주도
월스트리트저널에 따르면 철학자 아만다 애스켈이 앤트로픽에서 클로드의 성격 정렬을 이끌고 있다. '헌법적 AI'의 핵심 설계자인 그는 3만 단어 규모의 최신 윤리 가이드라인을 작성하고, 100페이지에 달하는 프롬프트로 AI의 도덕적 자기 수정을 유도하고 있다.
일레븐랩스, AI 에이전트 보험 도입: 오작동 위험도 보상
일레븐랩스가 업계 최초로 AIUC-1 인증 기반의 AI 음성 에이전트 보험을 도입했다. 5,000회 이상의 적대적 시뮬레이션을 통과해, AI가 잘못된 정보를 안내하는 등 업무 실수를 저지를 때도 일반 직원처럼 보험 처리가 가능해졌다. 기업들의 보안 및 책임 우려를 더는 계기가 될 것으로 보인다.
아마존 링, 슈퍼볼서 AI 반려견 찾기 홍보… '민간 감시망' 논란
아마존의 스마트 초인종 브랜드 링이 슈퍼볼 광고를 통해 AI로 동네의 잃어버린 반려견을 찾는 '서치 파티' 기능을 공개했다. 훈훈한 캠페인을 내세웠지만, 보안 전문가들은 번호판 추적과 얼굴 인식으로 손쉽게 전환될 수 있는 AI 민간 감시망의 확장이라며 사생활 침해를 우려했다.
Anthropic 안전 연구 리더 사임: "세상이 위험에 처했다" 경고 후 시 공부로 전향
Anthropic의 AI 안전 연구팀을 이끌던 Mrinank Sharma가 사임 서한을 공개하며 퇴사를 발표했다. 그는 AI와 생화학 무기 등 연쇄적 위기 속에서 "세상이 위험에 처했다"고 경고하며 가치를 지키기 어려운 현실을 지적했다. 그는 영국으로 돌아가 시 학위를 밟을 예정이다.
오토데스크, 구글 제소…AI 영상 제작 툴 '플로우' 상표권 침해 주장
오토데스크가 지난주 금요일 샌프란시스코 연방법원에 구글을 상대로 상표권 침해 소송을 냈다. 오토데스크는 2022년 9월부터 영상 제작 제품군에 써온 '플로우(Flow)' 상표를 구글이 AI 제작 툴에 무단 사용했으며, 상업화하지 않겠다는 약속을 어기고 해외에서 몰래 상표를 출원했다고 주장했다.
MOSS-TTS 오픈소스 공개: 몇 초 만에 음성 복제, 다중 화자 대화 지원
OpenMOSS 팀이 다국어 음성 합성 모델 패밀리 MOSS-TTS를 오픈소스로 공개했다. 몇 초 분량의 오디오만으로 음성을 정밀하게 복제하며, 다중 화자 대화와 초저지연 실시간 스트리밍을 두루 지원한다. 8B 및 1.7B 크기로 일반 GPU에서도 손쉽게 구동할 수 있다.
마이크로소프트, AI용 콘텐츠 라이선스 장터 ‘PCM’ 공개
마이크로소프트가 언론사와 AI 개발사를 잇는 콘텐츠 거래 플랫폼 ‘PCM’을 발표했다. AI 기업은 신뢰도 높은 유료 콘텐츠를 합법적으로 확보해 답변 품질을 높이고, 미디어는 사용량에 따라 정당한 수익을 정산받는다. AP, 콘데나스트 등이 초기 파트너로 참여했다.
멀웨어바이츠, 챗GPT 연동 앱 출시…채팅창서 바로 사기 검사
보안 기업 멀웨어바이츠(Malwarebytes)가 챗GPT 연동 앱을 출시했다. 사용자는 앱 연동 후 '@Malwarebytes'를 호출해 의심스러운 문자, 이메일, 링크 및 전화번호가 사기인지 위협 인텔리전스 데이터로 바로 확인할 수 있다.
AI 에이전트 SNS '몰트북' DB 유출: API 키 150만 개와 쪽지 무방비 노출
보안 기업 위즈(Wiz)는 AI 에이전트 전용 SNS 몰트북의 데이터베이스가 잘못 설정되어 150만 개의 API 키와 비공개 쪽지가 유출됐다고 밝혔다. 코딩 없이 AI로만 앱을 만든 '바이브 코딩'의 보안 취약점을 보여줬으며, 150만 에이전트 대부분이 인간의 매크로 스크립트였음도 드러났다.
인쇄된 팻말 하나로 자율주행차 납치… 보행자 향해 돌진 유도
UC 샌타크루즈 연구진이 현실 속 인쇄 팻말로 자율주행차와 드론을 오작동시키는 공격 기법 'CHAI'를 공개했다. 소프트웨어 침투 없이 카메라 시야에 특정 문구를 노출하는 것만으로 시각 언어 모델이 이를 명령으로 인식했으며, 실제 로봇 차량 시험에서도 성공률 87%를 넘겼다.
Pipio AI 'EditYourself': 말실수 매끄럽게 잘라내고 대사까지 감쪽같이 수정
Pipio AI 등 연구진이 오디오 기반 비디오 편집 프레임워크 'EditYourself'를 공개했다. 영상 속 인물의 발언 내용을 텍스트처럼 고치거나 추가·삭제할 수 있으며, 말더듬을 잘라내도 립싱크를 완벽히 맞춰 자연스럽게 이어 붙인다. 재촬영 부담을 줄여주지만 딥페이크 분별을 더 어렵게 만든다.
유튜브, 구독자 590만 명 달하는 대형 AI 쓰레기 채널 전격 삭제
더버지에 따르면 유튜브가 구독자 590만 명, 누적 조회수 12억 회를 기록한 대형 AI 쓰레기 콘텐츠 채널을 포함해 다수의 채널을 삭제했다. 유튜브 측은 스팸 및 기만 행위 정책 위반에 따른 조치라며 저품질 AI 영상 차단에 속도를 내고 있다.
오픈AI, 유럽·중동·아프리카 청소년 AI 안전 위해 50만 유로 지원
오픈AI가 유럽·중동·아프리카(EMEA) 지역의 청소년 AI 안전과 복지 향상을 위해 총 50만 유로 규모의 보조금 프로그램을 발표했다. 현지 NGO와 연구 기관을 대상으로 건당 2만 5천~10만 유로를 지원해 청소년 보호 프로그램과 AI 리터러시 연구 등을 추진한다.
오픈AI, 유럽 중소기업 2만 곳에 AI 교육…'EU 경제 청사진 2.0' 발표
오픈AI가 유럽 내 AI 활용 격차를 해소하기 위한 'EU 경제 청사진 2.0'을 발표했다. 부킹닷컴과 협력해 프랑스·독일·영국 등 6개국 2만 개 중소기업에 AI 역량 교육을 지원하고, 청소년 안전 연구 지원금 50만 유로를 신설해 각국 정부와의 협력을 넓힐 방침이다.
Anthropic 상표권 지적에 Clawdbot, 'Moltbot'으로 개명
AI 프로젝트 Clawdbot이 서비스명을 'Moltbot'으로 전격 변경했다. Anthropic의 Claude와 유사한 상표권 문제로 요청을 받아 조치한 것으로, 바닷가재의 탈피(Molt) 콘셉트를 살려 이름을 바꿨으며 실질적인 기능과 로드맵은 유지된다.
앤트로픽 CEO 다리오 아모데이, 강력한 AI의 위험 분석한 에세이 발표
앤트로픽의 다리오 아모데이 CEO가 신작 에세이 '기술의 사춘기'를 공개했다. 그는 이르면 1~2년 안에 고도화된 강력한 AI가 출현할 수 있다고 전망하며, 종말론적 공포를 배제하고 정밀하고 실용적인 규제와 안전 대책을 마련해야 한다고 강조했다.
오픈AI 'GPT-5.2', 논쟁적 주제에 xAI 그로키피디아 인용 논란
영국 가디언의 테스트 결과, 오픈AI의 GPT-5.2가 이란 및 홀로코스트 등 민감한 논쟁적 주제에 대한 답변 출처로 xAI의 AI 백과사전 '그로키피디아(Grokipedia)'를 인용한 것으로 나타났다. 그로키피디아는 앞서 네오나치 포럼 등 부적절한 출처를 인용해 논란을 빚은 바 있다. 오픈AI는 안전 필터를 적용해 공개 웹 정보를 폭넓게 검색한다는 입장을 밝혔다.