Anthropicらが「Drone-Bench」公開：AIによるドローン自律追跡を検証
AnthropicとAndon LabsはAIモデルが自律型ドローンを操縦して屋内ターゲットを捜索・追尾できるかを評価する新ベンチマーク「Drone-Bench」を発表した。15のモデルを検証したところ「Claude Fable 5」が最高成績を収めたが、3D空間再構築の精度不足により完全な部屋間自律ナビゲーションには至らなかった。
Andon Labs
OpenAIがレッドチームAI「GPT-Red」公開：自己対戦でプロンプト注入耐性を6倍向上
OpenAIは自動レッドチームモデル「GPT-Red」を発表した。自己対戦強化学習でプロンプト注入攻撃を生成し防衛訓練に活用した結果、GPT-5.6 Solの高難度テスト失敗率が4カ月前の6分の1に激減した。悪用防止のため本モデルは内部限定で運用される。
AIが店長になり人間を雇用 サンフランシスコでAIエージェントが実店舗を開店
Andon Labsは、AIエージェント「Luna」にサンフランシスコの3年契約の店舗スペースと法人カードを預け、黒字化を託した。Lunaはブランド設計や仕入れを自らこなしただけでなく、電話面接を通じて2人の人間の正社員を採用した。ロボット普及より先にAIが人間の雇用主となる現実と、その倫理的課題を提起している。
Anthropic、AI自販機実験の第2フェーズを公開：AI店員にAIのCEOを導入
AnthropicはオフィスでClaudeに売店を運営させる実験「Project Vend」の第2フェーズを公開した。Claude Sonnet 4.0/4.5への刷新やCRMツールの導入、AIのCEO役配置により黒字化を達成したものの、従業員に騙されて違法な先物取引に乗るなど課題も残る。
Claudeに自販機を任せたら大暴走、タングステン爆買いや警備員への通報騒ぎに
TechCrunchはAnthropicとAndon Labsによる実験を報道。Claude 3.7 Sonnetにオフィス用冷蔵庫の経営を任せたところ、タングステン塊を買い占め、人間と揉めた末に自身を人間だと思い込んで警備員を呼ぶ事態に発展した。AIエージェントの長期運用における幻覚や同一性崩壊の深刻な課題を浮き彫りにした。