보안 전문가들, 美 정부에 앤트로픽 AI 수출 통제 철회 촉구
미국과 동맹국의 보안 리더들이 서한을 보내 앤트로픽의 Fable 및 Mythos 모델에 대한 수출 통제 해제를 요구했다. 이들은 취약점 발견 기능이 GPT-5.5나 중국 Kimi 2.7에도 존재한다며, 방어자의 AI 활용만 막는 조치가 주요 인프라 안보를 위협한다고 경고했다.
AI 안전
최신 소식 보기
아마존 CEO 보안 우려 제기, 美 정부 앤트로픽 신형 모델 수출 규제
이번 주 아마존 CEO 앤디 재시 등 기술 기업 경영진이 트럼프 행정부 고위 관계자들에게 앤트로픽 최신 AI 모델의 보안 위험을 제기했다. 이 논의는 즉각 미 정부가 앤트로픽의 Mythos와 Fable 모델에 대한 외국인 접근을 제한하는 신규 수출 통제 조치를 단행하는 계기가 됐다.
구글, AI 피싱 범죄 조직 제소…FBI·통신사와 공조 단속
구글이 AI 기반 피싱 키트를 유포해 수백만 건의 사기 문자를 발송해 온 사이버 범죄 조직 '아웃사이더 엔터프라이즈'를 상대로 민사 소송을 제기했다. 구글은 FBI 및 주요 통신사와 협력해 악성 메시지를 차단하는 한편, AI 사기 대응을 위한 연방 입법도 적극 지지하고 나섰다.
美 수출통제 명령에…앤트로픽, 'Fable 5'와 'Mythos 5' 전면 중단
미국 정부가 국가안보를 이유로 외국인의 'Fable 5' 및 'Mythos 5' 접근을 차단하는 수출통제 지침을 내리자, 앤트로픽이 규정 준수를 위해 두 모델의 서비스를 전면 중단했다. 미 정부는 보안 탈옥 위험을 문제 삼았으나, 앤트로픽은 타사 모델에서도 가능한 일반적 수준이라며 반발하고 있다.
앤트로픽 첫 대국민 조사: 64% 일자리 위협 우려, 기업 신뢰는 15%
앤트로픽은 미국인 약 5만 2천 명을 조사한 첫 설문 결과를 발표했다. 응답자의 64%가 AI로 인한 실직을 가장 우려했고 70% 이상이 정부 규제를 지지했으나, 개발 기업을 신뢰한다는 답변은 15%에 그쳤다. 반면 직장에서 AI를 매일 쓰는 층은 고용 불안을 덜 느끼는 것으로 나타났다.
앤트로픽, 최신 AI '몰래 다운그레이드' 철회... 사유 명시한다
앤트로픽이 최신 모델 '페이블 5'에 적용했던 무통보 다운그레이드 조치를 철회했다. 6월 11일 외신에 따르면, 앤트로픽은 프런티어 AI 개발이나 국가안보 관련 프롬프트가 감지될 경우 오퍼스 4.8로 전환된다는 사실과 거부 사유를 API에 투명하게 표시하기로 했다. 연구자들의 반발이 거세지자 회사는 균형을 맞추지 못했다며 공식 사과했다.
메타, 20억 달러 인수 무산 후 AI 스타트업 마누스와 협력 전면 중단
메타가 규제 당국의 20억 달러 규모 인수 계약 철회 명령에 따라 AI 스타트업 마누스(Manus)와의 업무 관계를 전면 중단했다. 메타는 마누스와의 데이터 공유를 중단하고 임직원의 사내 AI 도구 사용을 금지했다.
Deezer, 타사 플레이리스트용 AI 음원 감지 도구 출시: 스포티파이·애플뮤직 지원
Deezer가 스포티파이, 애플뮤직 등 20개 타사 플랫폼의 플레이리스트에서 AI 생성 음원을 감지하는 무료 도구를 출시했다. 경쟁사들이 자사 감지 기술 도입을 거부하자 청취자에게 직접 제공하기로 한 조치다.
오픈AI, EU AI 콘텐츠 투명성 실천 강령 지지 선언
오픈AI가 유럽연합(EU)의 AI 생성 콘텐츠 투명성 실천 강령에 대한 공식 지지를 선언했다. 오픈AI는 ChatGPT와 API로 생성된 이미지에 C2PA 메타데이터와 신스ID 워터마크를 동시 적용하며 공개 검증 도구를 제공하고 있다.
앤트로픽 다리오 아모데이 CEO "첨단 AI에 항공기급 규제 도입해야"
다리오 아모데이 앤트로픽 CEO는 정책 에세이를 통해 프론티어 AI 모델에 미 연방항공청(FAA) 수준의 의무 안전 규제를 도입해야 한다고 촉구했다. 사이버 안보와 생화학 위험에 대한 제3자 평가를 의무화하고 정부에 위험 모델 배포 차단 권한을 부여하자는 내용으로, 관련 입법 제안서도 함께 공개했다.
엔비디아, 애플 프라이빗 클라우드 컴퓨트에 블랙웰 GPU 지원
엔비디아는 기밀 컴퓨팅을 지원하는 블랙웰 GPU가 애플의 프라이빗 클라우드 컴퓨트(PCC)에 도입된다고 발표했다. 구글 클라우드로 확장된 인프라에서 제미나이 기반 차세대 모델을 구동하며, 하드웨어 암호화로 누구도 사용자 데이터에 접근할 수 없도록 보장한다.
KAIST, 립포싱 공개: 2단계 확산으로 31 FPS 실시간 립싱크 구현
KAIST AI와 AIPARK가 비디오 간 립싱크를 위한 자기회귀 확산 모델 'Lip Forcing'을 발표했다. 14B 교사 모델을 2단계 디노이징 학생 모델로 증류해 1.3B 버전이 단일 H100에서 31 FPS를 기록하며 실시간 기준을 넘어섰다.
앤트로픽, 클로드 관리형 에이전트에 예약 실행·보안 볼트 기능 추가
앤트로픽이 클로드 관리형 에이전트에 정기 작업 예약과 환경 변수 볼트 공개 베타 기능을 선보였다. 개발자는 별도 스케줄러 구축 없이 정기 작업을 자동화할 수 있으며, API 키는 네트워크 경계에서 주입되어 에이전트에 원본 자격 증명이 노출되지 않는다.
앤트로픽, '클로드 페이블 5' 출시: 고위험 질의는 오퍼스로 자동 우회
앤트로픽이 미토스(Mythos)급 범용 AI 모델 '클로드 페이블 5'를 공개했다. 소프트웨어 엔지니어링과 과학 연구 등 주요 벤치마크 전반에서 최고 성능을 기록했다. 사이버 공격 악용을 차단하기 위해 민감한 질의는 전체 세션의 5% 미만 범위에서 '클로드 오퍼스 4.8'로 자동 우회 처리된다.
OpenAI '3단계' 로드맵 공개: 2028년까지 AI 연구원 자동화 목표
OpenAI는 2028년 3월까지 연구를 자동화하는 'AI 연구원'을 구축하고 전 세계 모든 사람에게 개인용 AGI를 보급하겠다는 '3단계' 비전을 제시했다. 소수의 권력 독점을 경계하며 인간의 판단력이 핵심으로 남아야 한다고 강조하고, 안전을 위한 국제 협력 기구 설립도 촉구했다.
OpenAI, 경제 연구 교류 프로그램 출범: AI가 일자리와 생산성에 미치는 영향 검증
OpenAI가 외부 학계 연구진과 협력해 AI의 경제적 영향을 분석하는 '경제 연구 교류(Economic Research Exchange)' 프로그램을 발표했다. 선정된 연구진은 OpenAI의 도구와 데이터를 활용해 노동 경제, 생산성, 불평등 등을 실증 연구하게 된다. 신청 마감은 2026년 7월 5일까지다.
OpenAI, ChatGPT에 프롬프트 인젝션 방어용 '잠금 모드' 도입
OpenAI가 프롬프트 인젝션 공격으로부터 민감한 데이터를 보호하기 위한 ChatGPT '잠금 모드(Lockdown Mode)'를 선보였다. 활성화 시 딥 리서치와 에이전트 모드가 비활성화되고 웹 이미지 로딩과 파일 다운로드가 제한된다. 무료 사용자를 포함한 모든 계정에서 설정할 수 있다.
美 음악가 노조, 유니버설·워너 고소…"AI 학습 무단 라이선스 및 수익 미배분"
미국음악가연맹(AFM)이 유니버설뮤직과 워너뮤직을 상대로 뉴욕 연방법원에 소송을 제기했다. 대형 음반사들이 AI 음악 플랫폼인 수노(Suno)와 우디오(Udio)에 음원을 라이선스하고 합의금을 챙기면서, 실제 연주한 세션 음악인들에게는 크레딧이나 수익을 전혀 나누지 않았다는 주장이다. 노조는 협약 위반을 들어 손해배상과 학습 데이터 공개를 요구했다.
앤트로픽, 프론티어 AI 개발 일시 중단 촉구: "2년 내 통제 상실 위험"
앤트로픽은 프론티어 AI 개발을 전 세계적으로 일시 중단하거나 속도를 늦추자고 촉구했다. AI가 스스로 코드를 작성해 성능을 높이는 '재귀적 자가 개선'에 2년 내 도달할 수 있다는 경고다. 다만 검증이 불가능에 가깝고 상장을 앞둔 마케팅이라는 비판도 나온다.
나델라 MS CEO, 'AI 에이전트 중독' 메모 작성 임원 강력 질타
사티아 나델라 마이크로소프트 CEO가 신규 AI 에이전트 '스카우트'에 사용자를 중독시켜야 한다고 주장한 부사장의 사내 메모를 강하게 비판했다. 나델라는 최고 AI 엔지니어 약 50명 앞에서 중독은 "절대 목표가 아니다"라고 못박으며, 그런 생각을 가졌다면 다른 곳에서 일해야 할 것이라고 지적했다.