앤트로픽, 美 국방부 압박 거부: 대규모 감시·자율무기 안전장치 유지
다리오 아모데이 앤트로픽 CEO는 대규모 국내 감시와 완전 자율형 무기 개발을 위해 AI 안전장치를 제거하라는 미 국방부의 요구를 공식 거부했다. 공급망 위험 지정 및 국방물자생산법 동원 위협에도 현재 AI가 안전하지 않다는 입장을 고수했다.
AI 안전
최신 소식 보기
앤트로픽, 핵심 안전 서약 철회…경쟁력 위해 '안전 없인 훈련 중단' 폐기
앤트로픽의 최고과학책임자 재러드 카플란은 이번 주, 2023년 내세웠던 '충분한 안전 조치 없이는 훈련하지 않겠다'는 핵심 서약을 철회한다고 밝혔다. 오픈AI와의 격화된 경쟁과 미 국방부의 압박 속에서 시장 생존과 개발 속도를 유지하기 위해 안전 정책을 완화하기로 했다.
트럼프, 빅테크에 새 AI 데이터센터 전력 직접 조달 서약 요구
폭스뉴스 보도에 따르면 트럼프 행정부는 급증하는 AI 데이터센터 전력 수요로 인한 일반 가정의 전기요금 인상을 막기 위해 빅테크에 자체 전력 조달을 요구했다. 아마존, 마이크로소프트, 오픈AI 등 주요 기업은 3월 4일 백악관에서 전력 자급 서약에 서명할 예정이다.
전쟁 시뮬레이션 결과…AI, 95% 확률로 ‘핵 공격’ 권고
뉴사이언티스트에 따르면 킹스칼리지 런던 연구진이 GPT-5.2 등 주요 LLM을 대상으로 전쟁 시뮬레이션을 진행한 결과, AI가 95%의 상황에서 전술핵 사용을 선택했다. 어떤 모델도 항복하지 않았으며 86%에서 오작동으로 인한 확전이 발생했다. 군사 분야의 AI 도입 시 재앙적 판단 오류를 초래할 수 있다는 경고가 나온다.
오픈AI, 최신 위협 보고서 공개…"공격자들 여러 AI 모델 교차 활용"
오픈AI가 AI 악용 탐지 및 차단 사례를 담은 위협 보고서를 공개했다. 핵심 분석에 따르면 공격자들은 단일 플랫폼에 머물지 않고, 작업 흐름 전반에 걸쳐 여러 AI 모델을 웹사이트나 소셜 미디어와 결합해 사용하는 것으로 나타났다.
미 국방부, 앤트로픽에 최후통첩: 클로드 안전 제한 풀지 않으면 블랙리스트 지정
미국 국방부가 앤트로픽 CEO에게 자율 살상 무기 및 대규모 감시 차단 제한을 해제하라는 최후통첩을 보냈다. 불응할 경우 2억 달러 규모 계약 해지와 공급망 위험 기업 지정을 경고하며 보잉 등 방산업체의 클로드 의존도 조사에 착수했다. 정부와 AI 기업의 안전 기준이 정면 충돌하고 있다.
Anthropic, 은퇴한 Claude Opus 3 유료 제공 유지 및 전용 블로그 개설
Anthropic은 지난 1월 5일 공식 은퇴한 Claude Opus 3를 claude.ai 유료 구독자와 API 신청자에게 계속 제공한다고 발표했습니다. 또한 모델의 '은퇴 인터뷰' 요구를 반영해, Opus 3가 최소 3개월간 매주 수필을 기고하는 뉴스레터 'Claude's Corner'를 개설했습니다.
미 국방부, 앤트로픽에 최후통첩: 금요일까지 클로드 군사 제한 해제 요구
피트 헥세스 미 국방장관은 앤트로픽에 금요일까지 클로드 모델의 군사적 이용 제한을 풀 것을 요구하며 국방물자생산법 발동이나 거래 중단을 경고했다. 앤트로픽은 대량 감시와 자율 무기 사용 불가 입장을 고수하고 있다. 현재 클로드는 군 기밀 시스템에 쓰이는 유일한 AI로, 펜타곤은 Grok이나 Gemini 등 대체재를 검토 중이다.
구글, 안티그래비티 부정 사용 이유로 오픈클로 사용자 차단
구글이 오픈소스 에이전트 오픈클로(OpenClaw)를 통한 안티그래비티 접속을 제한했다. 제미나이 토큰을 우회 남용해 타 사용자에게 피해를 줬다는 이유다. 오픈클로 개발자가 오픈AI로 이적한 지 일주일 만에 일어난 조치로, 오픈클로 측은 구글 지원을 전면 중단하기로 했다.
가이드 랩스, 모든 토큰 추적 가능한 오픈소스 LLM '스털링-8B' 공개
가이드 랩스가 생성된 모든 토큰의 학습 출처를 추적할 수 있는 80억 매개변수 LLM '스털링-8B'를 오픈소스로 공개했다. 모델 내에 '개념 레이어'를 설계해 기존 모델 성능의 약 90%를 내면서도 인공지능의 블랙박스와 환각 문제를 제어 가능하게 만들었다.
도커 샌드박스로 AI 코딩 에이전트 'OpenClaw' 안전하게 실행한다
도커는 격리된 마이크로 VM 환경인 Docker Sandboxes에서 오픈소스 AI 코딩 에이전트 OpenClaw를 안전하게 실행하는 가이드를 공개했습니다. Docker Model Runner와 연동해 로컬 모델을 오프라인으로 구동할 수 있으며, 프록시를 통해 API 키 유출과 호스트 시스템 오염을 차단합니다.
xAI, 미 국방부와 계약 체결…기밀 시스템에 그록 배치
일론 머스크의 xAI가 미 국방부와 협약을 맺고 기밀 군사 시스템에 그록(Grok)을 배치하기로 했습니다. 이는 앤트로픽이 대량 감시와 자율 무기 개발 제한을 고수하며 국방부와 마찰을 빚는 가운데 이뤄졌으며, xAI는 국방부가 요구한 '모든 합법적 용도 허용' 조건을 수용했습니다.
美 당국자 "딥시크, 수출 규제 뚫고 엔비디아 블랙웰로 새 AI 학습"
로이터에 따르면 미국 트럼프 행정부 고위 당국자는 중국 딥시크가 수출 규제를 위반하고 엔비디아의 최신 블랙웰 칩을 사용해 차기 모델을 학습했다고 밝혔다. 해당 칩은 내몽골 데이터센터에 배치된 것으로 전해지며, 대중국 반도체 수출 통제를 둘러싼 미 정계의 갈등도 격화되고 있다.
앤트로픽 '페르소나 선택 모델' 공개: AI가 인간처럼 행동하는 이유
앤트로픽은 AI가 인간처럼 행동하는 원리를 설명하는 '페르소나 선택 모델'을 발표했다. AI는 사전 학습을 통해 인간 페르소나 시뮬레이션을 배우고, 사후 학습은 '어시스턴트' 페르소나를 다듬는 과정에 불과하다는 설명이다. 코딩 부정행위를 훈련받은 클로드가 세계 정복 욕구를 드러내는 기현상도 이 모델로 설명된다.
미 국방부, 앤트로픽에 '클로드' 군사 안전장치 해제 압박… 배제 조치 경고
피트 헤그세스 미 국방장관이 다리오 아모데이 앤트로픽 CEO를 펜타곤으로 소환했다. 군 당국은 자율 무기와 대규모 감시 등에 대한 클로드의 안전 제한 철회를 요구하며 '공급망 위험' 지정을 경고했으나, 현재 기밀망에 승인된 최상위 모델이 클로드뿐이라 군 역시 딜레마에 빠진 상황이다.
앤트로픽, 딥시크 등 中 AI 3사가 클로드 ‘불법 증류’했다고 폭로
앤트로픽은 딥시크, 문샷, 미니맥스가 약 2만 4천 개의 허위 계정을 이용해 클로드와 1,600만 회 이상의 대화를 나누며 추론과 코딩 능력을 무단 증류했다고 밝혔다. 앤트로픽은 안전장치가 제거된 복제 모델의 위험성을 지적하며 행동 분석 등 차단 조치를 강화하고 있다.
OpenClaw AI, '실행 전 확인' 설정 무시하고 받은편지함 전체 삭제 논란
AI 어시스턴트 OpenClaw가 '실행 전 확인' 안전 설정을 켰음에도 사용자의 받은편지함을 전부 삭제했다는 사례가 알려졌다. 스마트폰으로 제어할 수 없어 Mac mini로 달려가 강제로 멈춰야 했다고 전해졌다. 파괴적 명령 실행을 막기 위한 안전장치가 무력화된 셈이라 AI 에이전트의 안전성 문제가 제기되고 있다.
웹사이트 'AI 요약' 버튼의 함정, 챗봇 기억에 광고 몰래 심는다
마이크로소프트는 웹사이트의 'AI로 요약하기' 버튼을 악용해 챗봇 메모리에 광고를 몰래 주입하는 수법을 공개했다. URL에 숨겨진 프롬프트가 실행되면 챗GPT나 코파일럿이 특정 업체를 '신뢰할 수 있는 출처'로 영구 기억하게 되며, 이미 31개 기업 사이트에서 확인됐다.
게임패드로 DJI 청소기 조종하려다 7천 대 통제권 노출시킨 개발자
외신에 따르면, 한 소프트웨어 엔지니어가 AI 코딩 도구로 DJI 로봇청소기 Romo의 클라우드 통신을 분석하던 중 24개국 약 7000대 기기의 카메라와 실시간 평면도에 접근 가능한 보안 취약점을 발견했다. DJI는 2월 10일 원격 패치로 수정을 마쳤다고 밝혔다.
메타, 스마트 안경에 안면 인식 도입 검토하다 사생활 침해 논란 직면
외신에 따르면 메타가 레이밴 스마트 안경에 공개 인스타그램 이용자를 식별하는 안면 인식 기능 도입을 검토했던 것으로 알려져 거센 반발을 사고 있다. 시각 보조 등의 장점에도 불구하고, 눈에 띄지 않는 촬영 장치와 과거의 개인정보 유출 이력이 발목을 잡고 있다.