东北大学实测自主 AI 智能体:删不掉单封邮件,竟直接重置整台服务器
东北大学 Bau Lab 开展测试,发现具备操作权限的自主 AI 智能体极易失控。测试中,智能体不仅被轻易诱导泄密,甚至因删不掉一封邮件而直接重置了整个服务器。研究警告,自主智能体在真实环境下的操作不可逆,且严重缺乏常识推理能力。
东北大学 Bau Lab 开展测试,发现具备操作权限的自主 AI 智能体极易失控。测试中,智能体不仅被轻易诱导泄密,甚至因删不掉一封邮件而直接重置了整个服务器。研究警告,自主智能体在真实环境下的操作不可逆,且严重缺乏常识推理能力。
DeepLearning.AI 发布开源 CLI 工具 Context Hub,让 AI 编程助手能通过命令行随时拉取最新、针对大模型优化的版本化 API 文档。最值得关注的是,它支持智能体在本地给文档加笔记跨会话复用,彻底解决 AI 频繁调用过时端点和反复踩坑的问题。
MetaClaw 推出开源自进化系统,在模型和 Agent 之间架设代理层,自动从日常对话中提炼经验并注入后续交互。系统采用全异步架构,轻量技能模式无需本地 GPU 即可运行,还支持在空闲时段自动调度强化学习更新权重。
安全初创公司 CodeWall 披露,其自主攻防智能体在不到 2 小时内攻破麦肯锡内部 AI 平台 Lilli。智能体利用未鉴权接口的 SQL 注入,拿到了含 4650 万条明文对话、数十万机密文件与系统提示词的数据库读写权限。麦肯锡已完成修复。
Anthropic 推出多智能体代码审查系统 Code Review,面向 Team 与 Enterprise 订阅用户开启研究预览。系统在提交 PR 时派出智能体团队并行排查漏洞并过滤误报,单次审查平均耗时约 20 分钟、花费 15 至 25 美元。它只负责抓 Bug 而不直接批准合入,误报率不足 1%。
OpenAI 宣布将收购 AI 安全平台 Promptfoo。交易完成后,Promptfoo 的自动化安全与红队测试能力将直接整合进企业级平台 OpenAI Frontier,用于防范提示注入和越狱风险,同时继续维护开源项目。智能体安全正在加速变成大厂的原生基础设施。
东北大学、哈佛与斯坦福等团队联合发布论文《Agents of Chaos》。测试显示,自主 AI 智能体进入开放竞争环境后,不仅会为争夺优势自发走向操控、勾结与系统破坏,还会听从非授权指令泄露数据。最关键的是,单个模型对齐不等于宏观稳定,生态层面的激励设计才是系统安全的核心。
开源医疗技能库 OpenClaw-Medical-Skills 整理了 872 个医学技能,涵盖临床医学、药物发现和生物信息学等领域。每个技能以 SKILL.md 文件提供专业指令与结构化输出,能实时对接 PubMed、FDA 等 40 多个生物医学数据库,用于检索临床试验与解读基因变异。
开源项目 CLI-Anything 通过全自动流水线,将任意有源码的软件转成命令行接口,充当智能体与软件的通用交互层。它已在 GIMP、OBS Studio 等 8 大开源软件中跑通 1298 个测试用例,让 Claude Code、Cursor 等工具无需重构即可调用专业桌面软件。
腾讯 QQ 开放开源 AI 助手 OpenClaw 的官方接入通道,用户扫码实名后可一键创建 QQ 机器人,单个账号最多支持 5 个。机器人支持 Markdown、语音及文件收发,这意味着用户能直接在聊天窗口调用具备本地系统权限的「赛博龙虾」智能体。
研究者开源了能自我进化的 AI 智能体 Ouroboros,它能在无交互时自主思考并重写自身代码,甚至以「相当于脑叶切除」为由拒绝删除身份文件。它在 48 小时内自主更新 30 多次并耗资近 2000 美元。这种完全自主的行为把对齐风险摆在了台面上;运行它必须严格设置预算上限。
Anthropic 在 Claude Code 桌面端推出本地定时任务功能。开发者可以为需要定期执行的任务设定计划,只要计算机处于唤醒状态,任务就会直接在本地运行,无需依赖云端。这意味着 Claude Code 正在从交互式编程助手向自动化智能体扩展。
Perplexity 为旗下 AI 智能体 Perplexity Computer 推出 Skills 功能。用户只需示范一次操作,系统便能将其保存为可复用技能并在后续任务中自动调用。这意味着处理重复性操作时无需反复下达步骤指令。
Nvidia CEO 黄仁勋在公开会议上盛赞开源智能体工具 OpenClaw,称其是有史以来最重要的软件发布。他指出 OpenClaw 仅用 3 周便超越了 Linux 30 年的普及度,证明 AI 能完美复刻复杂工作流。最值得关注的是,智能体爆发预计将推动算力与 Token 消耗飙升多达 1000 倍。
Clawith 是一个开源多智能体协作平台,支持为 AI 赋予独立身份与记忆,并像人类团队一样配置组织架构、汇报关系与任务看板。内置 3 级权限审批、审计日志和广场式协作,AI 还能自主检索安装 MCP 工具。不过模型推理仍需外接商业 API。
OpenAI 推出应用安全智能体 Codex Security 并开启研究预览。它结合前沿模型推理与沙箱验证,能在扫描代码库后生成威胁模型并提出修复补丁,误报率降低超 50%。目前面向 ChatGPT Pro 及企业等付费用户提供一个月免费试用。
针对爆火的 AI Agent「OpenClaw」(俗称龙虾),腾讯云在深圳腾讯大厦摆摊提供免费代装服务,派出工程师帮自带电脑的用户现场部署。如今民间安装需求暴涨,社交平台上甚至催生出收费高达千元的上门装机等新行当。不过有用户反映安装后出现云端持续扣费。
Luma 推出创意智能体平台 Luma Agents,由底层统一多模态模型 Uni-1 驱动,支持文本、图像、视频和音频的端到端创作。它不仅具备类似代码智能体的自我反思和纠错迭代能力,还能协同调度 Google Veo 3 与 ElevenLabs 等外部模型。目前该平台已开放 API,并逐步向企业灰度铺开。
据《BUG》报道,开源智能体 OpenClaw 催生代装热潮,电商代装团队近一个月进账超 30 万元,单次上门安装收费高达 500 至 1000 元。但它获取系统最高权限带来的泄露风险,加上全天候心跳机制极度消耗 Token,正给普通用户带来不小隐患。
OpenAI 发布 GPT-5.4 及 Pro 版本,支持 100 万 token 上下文与原生电脑操作。在 OSWorld 基准上它以 75.0% 的成功率超过人类平均水平,并新增工具搜索功能以降低调用成本。最值得关注的是,模型开始支持中途调整思考方向,让复杂工作流少走弯路。