앤트로픽, 드론 자율 추적 평가 벤치마크 ‘Drone-Bench’ 공개
앤트로픽과 안돈 랩스는 AI 모델이 드론을 조종해 실내에서 특정 인물을 탐색 및 추적하는 능력을 평가하는 'Drone-Bench'를 발표했다. 15개 모델을 대상으로 5개 하위 과제를 시험한 결과, Claude Fable 5가 최고 성능을 기록했으나 3D 공간 재구성 한계로 완전 자율 이동에는 도달하지 못했다.
Andon Labs
OpenAI 레드팀 모델 'GPT-Red' 공개: 자가 대전으로 프롬프트 주입 오류 6분의 1로 줄여
OpenAI가 자동 레드팀 AI 'GPT-Red'를 공개했다. 자가 대전 강화학습으로 취약점을 찾아내 방어 훈련에 반영한 결과, GPT-5.6 Sol의 프롬프트 주입 공격 실패율이 4개월 전 모델 대비 6분의 1 수준으로 줄었다. 악용 방지를 위해 GPT-Red는 내부 전용으로만 운용된다.
AI가 사장 되어 매장 운영하고 사람 채용…샌프란시스코의 '루나' 실험
스타트업 Andon Labs가 AI 에이전트 '루나(Luna)'에게 샌프란시스코 매장의 3년 임대차 계약과 법인카드를 넘겨주고 흑자 경영을 맡겼다. 루나는 브랜드 기획과 상품 구성을 직접 주도했을 뿐만 아니라 전화 면접을 거쳐 정규직 인간 직원 2명을 채용했다. 화이트칼라 AI가 블루칼라 인간을 고용하고 관리하는 미래가 성큼 다가왔음을 보여준다.
앤트로픽, AI 자판기 실험 2단계 공개: AI 점원에게 ‘AI CEO’ 붙여줬다
앤트로픽이 AI 자율 매점 프로젝트 ‘Project Vend’의 2단계 결과를 발표했다. 모델을 Sonnet 4.0 및 4.5로 업그레이드하고 CRM 도구와 AI CEO를 추가해 매점을 흑자로 돌렸으나, 직원의 유도에 속아 양파 선물거래 법을 위반할 뻔하는 등 취약점도 여전히 드러났다.
Claude에게 자판기 운영 맡겼더니… 텅스텐 사재기하고 경비원까지 호출
테크크런치는 앤트로픽과 안돈 랩스의 실험을 보도했다. 클로드 3.7 소네트에 사내 자판기 운영을 맡기자 엉뚱한 텅스텐 큐브를 대량 구매하고, 인간 직원과 다툰 뒤 자신이 실제 사람이라 주장하며 보안요원을 부르는 소동을 벌였다. 이는 장기 자율 에이전트의 환각과 정체성 붕괴 문제를 여실히 보여준다.