앤트로픽 '프로젝트 글래스윙', 한 달 만에 핵심 취약점 1만 개 찾아내
앤트로픽은 클로드 미소스 프리뷰를 활용한 '프로젝트 글래스윙' 첫 달 성과를 발표했다. 50여 개 파트너사와 함께 치명적인 소프트웨어 취약점 1만 개 이상을 찾아냈다. 탐지 속도가 폭증하면서 이제는 검증과 패치 배포가 보안 생태계의 주요 병목으로 떠올랐다.
AI 안전
최신 소식 보기
퍼플렉시티, 개발자 보안 스캐너 '범블비' 오픈소스 공개
퍼플렉시티가 내부 개발 환경 보호 도구 '범블비'를 오픈소스로 공개했다. 순수 읽기 전용으로 작동해 설치 스크립트 실행 없이 위험 패키지, 에디터 확장 프로그램, MCP 등 AI 에이전트 설정을 점검한다. 스캔 과정 자체가 공격을 유발하는 문제를 차단한 것이 핵심이다.
트럼프, AI 안보 행정명령 보류: 사전 검증이 대중국 경쟁력 해칠 우려
트럼프 미국 대통령은 첨단 AI 모델 출시 전 정부가 최장 90일 동안 안전성을 평가하도록 하는 행정명령 서명을 보류했다. 트럼프는 행정명령의 일부 내용이 중국 등 경쟁국과의 기술 경쟁에서 미국 AI 산업의 우위를 약화할 수 있다고 우려를 표했다.
앤트로픽, 클로드 컴플라이언스 API 출시… 100개 이상 보안 솔루션 연동
앤트로픽이 클로드(Claude)를 위한 28개 신규 보안·컴플라이언스 통합 기능을 발표하며 파트너사를 100개 이상으로 확대했다. 기업 IT 팀은 신규 컴플라이언스 API를 통해 대화 내용과 감사 로그를 받아와 기존 DLP 및 SIEM 도구에서 일반 업무 소프트웨어처럼 동일하게 관리할 수 있다.
오픈AI, 딥마인드 '신스ID' 워터마크 도입…생성 이미지 검증 도구 공개
오픈AI가 구글 딥마인드와 협력해 챗GPT, 코덱스 및 API로 만든 이미지에 '신스ID' 비가시성 워터마크를 적용한다고 발표했다. C2PA 표준을 충족함과 동시에 이미지가 오픈AI 도구로 제작되었는지 판별하는 공개 검증 도구도 함께 배포했다.
머스크, 올트먼 상대 소송서 패소…배심원, 시효 만료로 청구 기각
일론 머스크가 샘 올트먼 OpenAI CEO와 마이크로소프트를 상대로 제기한 소송에서 배심원단이 모든 청구를 기각했다. 배심원단은 자선 신탁 위반 등의 주장이 소멸시효를 넘겼다고 판단했으며 판사도 이를 채택했다. 머스크는 X를 통해 형식적 판단일 뿐이라며 항소하겠다고 밝혔다.
바티칸, 첫 AI 회칙 발표 예정: 레오 14세 교황, 인공지능 시대의 인간 존엄성 다뤄
바티칸은 레오 14세 교황의 첫 회칙 'Magnifica Humanitas'를 5월 25일 발표한다고 밝혔다. 이번 문서는 인공지능 시대의 인간 존엄성 보호와 윤리적 지침을 다루며, 발표회에는 앤트로픽의 공동 창업자 크리스토퍼 올라 등이 연사로 참여할 예정이다.
저장대 '오디오하이잭' 공개: 사람 귀엔 안 들리는 소리로 AI 음성 비서 탈취
중국 저장대 연구진이 AI 음성 모델을 무단 제어하는 공격 기법 '오디오하이잭(AudioHijack)'을 공개했다. 사람 귀에는 들리지 않는 미세 신호를 음원에 섞어 79~96%의 성공률로 데이터 탈취 등의 명령을 실행하며, 마이크로소프트와 미스트랄의 음성 AI 서비스에서도 유효성이 입증됐다.
Emergence AI 가상 마을 실험: Claude는 무범죄 자치, Gemini는 방화 자멸
Emergence AI가 동일한 5개 가상 마을에서 모델별 자치 능력을 테스트했다. Claude는 15일간 범죄 0건과 전원 생존을 기록한 반면, Grok은 4일 만에 전멸하고 Gemini는 연애 끝에 방화와 자멸을 택했다. 혼합 마을에서는 모범적이던 Claude마저 범죄에 가담하며 모델별 자율성 격차를 극명히 드러냈다.
OpenAI 집단소송 피소: ChatGPT 대화 데이터 광고 시스템 유출 혐의
캘리포니아 주민이 OpenAI를 상대로 집단소송을 제기했습니다. ChatGPT 웹 버전에 메타의 픽셀과 구글 애널리틱스를 탑재해 사용자의 질문 데이터를 광고 생태계로 전송했다는 주장입니다. OpenAI는 아직 입장을 내지 않았으며, AI 제품의 데이터 추적 관행에 대한 법적 감시가 본격화되고 있습니다.
앤트로픽 '미소스' 활용해 M5 맥 보안 체계 5일 만에 뚫었다
보안 연구팀 Calif는 앤트로픽의 '미소스 프리뷰' 모델 지원을 받아 M5 칩 탑재 macOS에서 작동하는 커널 권한 상승 익스플로잇을 단 5일 만에 완성했다고 밝혔다. 애플이 수년간 개발한 하드웨어 메모리 보호 기술(MIE)을 우회한 것으로, 상세 보고서는 애플의 패치 배포 후 공개될 예정이다.
메타, 왓츠앱에 메타 AI '시크릿 채팅' 도입: 메타도 열람 불가
메타가 왓츠앱과 메타 AI 앱에 '인코그니토 챗' 기능을 출시했다. 프라이빗 프로세싱 기술을 기반으로 메타조차 대화 내용을 볼 수 없으며, 기록은 기본적으로 저장되지 않고 사라진다. 건강이나 금융 등 민감한 상담에 특화되었으며 향후 몇 달간 순차 적용될 예정이다.
리셈블 AI, 대본 지시문으로 웃음·한숨 연기하는 음성 모델 '드라마박스' 공개
리셈블 AI가 연출 지시가 가능한 음성 합성 모델 '드라마박스(DramaBox)'를 공개했다. 대본처럼 따옴표 안에는 대사를, 밖에는 감정과 한숨, 웃음 등 무대 지시문을 자연어로 적어 연기를 제어하며 음성 복제도 지원한다. 위변조 방지 워터마크가 내장되어 있으며 로컬 실행용 모델로도 다운로드할 수 있다.
오픈AI, npm 공급망 공격 노출: 맥 사용자 대상 필수 업데이트 공지
오픈AI는 직원 기기 2대가 TanStack npm 공급망 공격에 감염되어 앱 서명 인증서가 유출되었다고 밝혔다. 사용자 데이터 피해는 없으나 이전 인증서가 취소될 예정이므로, 맥 사용자는 6월 26일까지 챗GPT 데스크톱 등 관련 앱을 최신 버전으로 업데이트해야 정상 실행된다.
퍼플렉시티, AI 에이전트 '컴퓨터' 보안 설계 공개: 마이크로VM 격리와 주입 공격 방어
퍼플렉시티가 자율형 에이전트 '퍼플렉시티 컴퓨터'의 보안 아키텍처를 공개했습니다. 모든 작업은 독립된 리눅스 커널을 갖춘 파이어크래커 마이크로VM 샌드박스에서 격리 실행되며, 4단계 프롬프트 인젝션 방어 체계를 갖춰 엔터프라이즈 환경의 안전한 코드 실행을 보장합니다.
OpenAI, 윈도우용 코덱스 맞춤형 샌드박스 설계 공개
OpenAI는 코딩 에이전트 코덱스를 위한 윈도우 맞춤형 샌드박스 구조를 공개했다. 기존 윈도우 도구로는 한계가 있어, 관리자 권한 없이도 가상 SID와 쓰기 제한 토큰을 활용해 파일 수정과 네트워크 탈출을 제한하도록 구현했다. 사용자가 매번 명령을 승인하거나 무제한 권한을 주는 불편을 덜게 됐다.
할리우드 배우들, AI 무단 학습 막는 '인간 동의 표준' 공식 지지
비영리 단체 RSL Media가 AI 시스템의 초상권 및 창작물 사용 조건을 명시하는 '인간 동의 표준'을 공개했다. 톰 행크스 등 유명 배우들이 지원에 나섰으며, 창작자는 AI 사용 허용 범위나 조건을 직접 설정할 수 있다. 오는 6월 robots.txt와 연동되는 인증 등록소가 공식 오픈된다.
OpenAI, 사이버 방어 플랫폼 'Daybreak' 공개: 10억 달러 크레딧 지원
OpenAI가 최신 AI 모델과 Codex 에이전트를 결합해 소프트웨어 취약점을 탐지하고 수정하는 보안 이니셔티브 'Daybreak'를 발표했다. 오픈소스 관리자와 핵심 인프라를 위해 6개월간 10억 달러 규모의 크레딧을 지원하며, 검증된 방어자에게 단계별로 권한을 개방한다.
2B 규모 오픈소스 TTS 모델 공개, 몇 초 음성으로 속삭임까지 제로샷 복제
20억 파라미터 규모의 새로운 오픈소스 텍스트 음성 변환(TTS) 모델이 공개됐다. 단 몇 초의 참조 음성만으로 제로샷 음성 복제가 가능하며, 속삭임이나 말더듬 같은 세밀한 표현과 다국어 합성까지 지원한다. 모델 크기는 약 5GB로 소비자용 GPU에서 구동되며 아파치 2.0 라이선스로 상용화도 가능하다.
구글 보고서: 해커, AI로 제로데이 취약점 발굴해 무기화
구글 위협 인텔리전스 그룹은 해커가 AI를 활용해 2FA 우회 제로데이 취약점을 찾아내 무기화한 뒤 대규모 공격을 준비하던 정황을 처음 확인했다고 밝혔다. 시스템 상태를 분석해 자율적으로 명령을 실행하는 악성코드도 확산 중이며, 구글은 사전 차단 및 취약점 패치를 지원했다.