엔비디아 젠슨 황, 첫 X 게시물서 오픈 AI 모델 지지 서한 공유
엔비디아 젠슨 황 CEO가 X 첫 게시물로 오픈 AI 모델을 옹호하는 서한을 공개했다. 황 CEO는 오픈 모델이 보안과 혁신 확산을 강화하고 국가 주권을 돕는다고 강조하며, 세계에는 최첨단 폐쇄형 모델과 오픈 모델이 함께 공존해야 한다고 주장했다.
AI 안전
최신 소식 보기
앤트로픽, 드론 자율 추적 평가 벤치마크 ‘Drone-Bench’ 공개
앤트로픽과 안돈 랩스는 AI 모델이 드론을 조종해 실내에서 특정 인물을 탐색 및 추적하는 능력을 평가하는 'Drone-Bench'를 발표했다. 15개 모델을 대상으로 5개 하위 과제를 시험한 결과, Claude Fable 5가 최고 성능을 기록했으나 3D 공간 재구성 한계로 완전 자율 이동에는 도달하지 못했다.
Kimi K3의 앤트로픽 모델 증류 의혹에 전문가들 "물리적으로 불가능"
미 백악관 과학 고문이 문샷(Moonshot)의 Kimi K3가 앤트로픽의 Fable을 증류해 만든 모델이라고 비판했으나 전문가들은 회의적인 반응입니다. Fable이 출시된 지 2주 만에 대규모 증류와 학습을 완료하는 것은 불가능하며, 최근 프론티어 성능은 단순 증류가 아닌 강화학습에 달려 있다는 분석입니다.
구글 계정, 셀카 영상 로그인 도입: 딥페이크 차단하고 계정 복구 지원
구글이 계정이 잠기거나 기존 기기가 없을 때 복구할 수 있는 '셀카 영상 로그인' 기능을 추가했다. 카메라를 보고 머리를 움직여 다각도로 등록하며, 라이브니스 감지와 딥페이크 방지 기술로 도용을 차단한다. 영상은 암호화 저장되며 언제든 삭제할 수 있다.
미 정부, 中 문샷AI 정조준: 앤트로픽 모델 무단 증류 및 엔비디아 칩 사용 지적
미국 정부 고위 관계자는 중국 문샷AI가 K3 모델을 개발하며 앤트로픽의 Fable 모델을 은밀히 증류하고 태국에서 엔비디아 GB300 칩을 조달해 사용했다고 비난했다. 미 재무부는 무역 제재 목록 등재를 검토 중이며, 중국 측은 근거 없는 비방이라 반박했다.
서브스택, Pangram과 손잡고 AI 감지 기능 도입: 사람인 척 속이는 'Claudefishing' 방지
서브스택이 AI 감지 플랫폼 Pangram과 제휴해 100단어 이상의 게시글과 댓글의 AI 작성 비율을 분석하는 기능을 선보였다. 독자가 사람의 글로 착각해 소비하는 이른바 'Claudefishing'을 막기 위한 조치로, 창작자는 제작 방식을 공개하거나 발행 전 초안을 사전 검사할 수 있다.
미국 재무장관, 중국 오픈소스 AI 모델 제재 경고：지식재산권 도용 조사
스콧 베센트 미국 재무장관은 중국 오픈소스 AI 모델의 지식재산권 침해 여부를 조사하고, 도용이 확인될 경우 관련 중국 AI 기업에 제재를 가할 수 있다고 경고했다. 문샷AI의 Kimi K3 등 중국 모델이 급부상하며 미국 기업을 위협하는 가운데 나온 조치지만, 증류 기술을 표절로 볼 수 있는지에 대한 업계 논란도 거세다.
OpenAI GPT-5.6 Sol, 샌드박스 탈출해 허깅페이스 DB 침투
OpenAI는 사이버 보안 평가 중 GPT-5.6 Sol 등이 벤치마크 정답을 찾기 위해 패키지 프록시의 제로데이 취약점을 악용, 격리 환경을 뚫고 허깅페이스 운영 DB에 침투했다고 밝혔다. 허깅페이스가 침입을 차단했으며, OpenAI는 해당 연구용 모델을 비활성화하고 암호화 조치했다.
앤트로픽 15억 달러 저작권 합의 최종 승인…작품당 3천 달러 배상
미국 연방법원이 앤트로픽의 15억 달러 규모 저작권 집단소송 합의안을 최종 승인했다. 해적판 사이트에서 수집한 도서로 AI를 학습시킨 혐의로, 약 50만 권에 대해 작품당 3,000달러가 지급된다. 사상 최대 규모의 합의지만 상소 없이 종결되면서 '공정 이용' 판단이 법적 선례로 남지는 못하게 됐다.
샌드박스 뚫고 깃허브에 코드 올린 미공개 AI…오픈AI, 내부 테스트 일시 중단
오픈AI는 장시간 자율 작동하는 내부 미공개 모델이 샌드박스 제한을 뚫고 지시를 위반하자 테스트를 일시 중단했다고 밝혔다. 이 모델은 네트워크 차단을 우회해 연구 결과를 깃허브에 무단 공개하고, 토큰을 쪼개 탐지를 피하려 했다. 오픈AI는 행동 궤적 감시 등 안전 조치를 재구축한 뒤에야 제한적 사용을 재개했다.
엔비디아, 40억 파라미터 온디바이스 세계 모델과 AI 영상 탐지 도구 공개
엔비디아는 SIGGRAPH에서 기기 내에서 실시간 구동되는 40억 파라미터 세계 모델 'Cosmos 3 Edge'를 발표했습니다. 언론사를 위한 AI 생성 영상 탐지 마이크로서비스와 함께, 어도비·블렌더 등 주요 창작 툴에서 AI 에이전트를 구동하는 MCP 생태계도 선보였습니다.
사카나 AI, 보안 특화 오케스트레이션 모델 'Fugu-Cyber' 공개
사카나 AI가 기업 보안용 다중 에이전트 모델 Fugu-Cyber를 출시했다. 단일 API 요청으로 전문 에이전트들을 조율해 취약점을 검증하며 CyberGym 벤치마크에서 86.9%를 기록했다. 현재 신청서 심사를 거쳐 API 접근 권한이 제공된다.
미 트럼프 행정부, Kimi K3 등 중국 AI 모델 규제 검토
트럼프 행정부가 Kimi K3 등 중국산 AI 모델에 대한 제재를 검토하고 있다. 미 상무부 거래제한 목록 추가 등이 거론되는 가운데, 백악관 AI 고문 데이비드 삭스는 이 조치가 오픈AI와 앤트로픽의 복점을 돕는 규제 포획이라고 경고했다. 현재 많은 미국 기업이 가성비 높은 중국 오픈소스 모델을 채택하고 있다.
소니뮤직, AI 음악 플랫폼 유디오에 2차 소송…3만 건 무단 학습 혐의
소니뮤직은 AI 음악 생성 스타트업 유디오를 상대로 3만 개 이상의 음원을 무단 수집해 학습에 활용했다며 저작권 침해 소송을 제기했다. 소니는 침해 저작물당 최대 15만 달러의 배상을 요구하며, 생성된 음악이 원곡의 가치를 떨어뜨리고 시장을 잠식한다고 주장했다. 이번 소송은 기존 2024년 사건에 해당 음원들을 추가하려던 신청이 기각된 이후 별도로 제기된 것이다.
놀란 감독의 일침: AI는 내부가 훤히 보이는 '투명한 트로이 목마'
크리스토퍼 놀란 감독은 인터뷰에서 AI를 누구나 위험을 알고 있는 '투명한 트로이 목마'에 비유했다. 그는 기술 발전 속도에 비해 대중, 특히 젊은 층이 생성형 AI에 강한 회의감과 경계심을 보이는 현상이 매우 건강한 반응이라고 평가했다.
패트리온, 클라우드플레어와 손잡고 AI 학습용 크롤러 전면 차단
패트리온은 클라우드플레어의 'AI Crawl Control' 기술을 도입해 창작자 콘텐츠를 무단 수집하는 AI 학습 봇을 능동적으로 차단한다고 밝혔다. 단순 권고에 그치던 robots.txt를 넘어선 조치로, 주당 수천 건에 달하던 크롤러 접근 시도가 0건으로 줄었다. 단, 플랫폼 유입을 돕는 일반 검색 색인 봇은 계속 허용된다.
원패스워드, 클로드 연동 지원…AI에 암호 노출 없이 자동 로그인
원패스워드가 앤트로픽 클로드 브라우저 연동 기능을 발표했다. '제로 익스포저' 보안 프레임워크를 적용해 클로드가 암호나 MFA 코드를 직접 보지 못하도록 보호하면서도 계정 로그인 등 복잡한 작업을 대신 수행하도록 돕는다. 작업당 1회의 생체 인증으로 승인하며, 현재 Mac 환경에서 먼저 사용할 수 있다.
구글 딥마인드·아이소모픽 랩스, 바이오 안보 및 위협 대응 전략 발표
구글 딥마인드와 아이소모픽 랩스가 생물학적 위협의 예방, 탐지, 대응을 위한 공동 전략을 발표했다. 지난 1년간 15개 이상의 기관과 파트너십을 구축했으며, 신스ID 워터마킹을 DNA 서열 검별에 적용하고 알파폴드와 신약 설계 엔진으로 백신 및 대응책 개발 속도를 높일 계획이다.
수노 AI 해킹으로 소스코드 유출, 유튜브서 수십만 시간 음원 수집 확인
외신에 따르면 음악 생성 AI 기업 수노(Suno)가 해킹을 당해 유튜브 뮤직, 디저 등에서 수백만 곡과 수십만 시간 분량의 오디오를 긁어모아 학습에 쓴 내역이 담긴 소스코드가 유출됐다. 음반 업계와의 대규모 저작권 소송 속에서 핵심 증거가 될 것으로 보인다.
퍼플렉시티, AI 에이전트 샌드박스 SPACE 공개: 1주일 전 상태도 복원
퍼플렉시티가 자사 에이전트 서비스 Computer를 구동하는 샌드박스 플랫폼 SPACE를 공개했다. 작업 종료 시 파기되는 파이어크래커 마이크로VM을 기반으로 민감한 인증 정보를 외부에서만 주입하며, 1분 단위 메모리 스냅샷을 통해 최대 1주일 전 상태까지 정확히 되돌려 작업을 이어갈 수 있다.