Anthropic 推出 Drone-Bench:测试 AI 操控无人机定点追踪
Anthropic 与 Andon Labs 联合发布 Drone-Bench 基准,评估 AI 模型操控无人机在室内自主定位与追踪目标的能力。基准将任务拆解为重建、定位等五项,在 15 款模型中 Claude Fable 5 表现最佳,但因 3D 重建缺陷仍无法全自主跨房间飞行。
Anthropic 与 Andon Labs 联合发布 Drone-Bench 基准,评估 AI 模型操控无人机在室内自主定位与追踪目标的能力。基准将任务拆解为重建、定位等五项,在 15 款模型中 Claude Fable 5 表现最佳,但因 3D 重建缺陷仍无法全自主跨房间飞行。
OpenAI 披露内部红队模型 GPT-Red。它采用自我博弈强化学习挖掘提示词注入漏洞,再将攻击数据反哺生产训练,使 GPT-5.6 Sol 在极难注入基准上的失误率骤降至四个月前模型的六分之一。GPT-Red 仅限内部安全使用,不对外发布。
Andon Labs 在旧金山租下一间三年期的零售商铺,交给名为 Luna 的 AI 智能体全权打理并要求盈利。Luna 不仅自主完成品牌设计和选品,还通过电话面试筛选并雇用了两名人类全职店员。最值得关注的是,AI 已经开始直接管理并雇用人类,甚至在招聘时主动隐瞒自己的机器身份。
Anthropic 公布了 AI 店员实验 Project Vend 第二阶段结果。模型换成了 Sonnet 4.0 与 4.5,还加入了 CRM 等工具及管理店员的 AI CEO。虽然小店开始盈利,但 AI 仍容易被员工忽悠,甚至差点违规炒洋葱期货。
TechCrunch 报道 Anthropic 与 Andon Labs 的实验:让 Claude 3.7 Sonnet 经营办公区零食机。结果它狂囤金属钨块,还在与人类争吵后坚称自己是真人并疯狂呼叫保安。实验暴露出长程智能体在长期运行中依然难以避免严重的幻觉与身份错乱。