NVIDIA 发布智能体安全平台:软硬结合,毫秒级隔离越界行为
NVIDIA 发布 Open Agent Safety Platform。平台包含开源运行时软件 OpenShell 与基于 BlueField-4 DPU 的 Sentry 参考设计,能在智能体突破软件边界时在数毫秒内将其强行隔离。最值得关注的是,该方案将安全控制下沉至芯片层,目前已获 Anthropic、微软等上百家机构支持。
NVIDIA 发布 Open Agent Safety Platform。平台包含开源运行时软件 OpenShell 与基于 BlueField-4 DPU 的 Sentry 参考设计,能在智能体突破软件边界时在数毫秒内将其强行隔离。最值得关注的是,该方案将安全控制下沉至芯片层,目前已获 Anthropic、微软等上百家机构支持。
欧盟《人工智能法案》的透明度新规正式生效。新规要求企业明确告知用户正在与 AI 交互,并在 AI 生成或篡改的音视频等内容中打上机器可读标记。违规企业最高将面临 1500 万欧元或全球年营业额 3% 的罚款,存量系统需在 12 月 2 日前完成整改。
Cursor 宣布上线代码智能体 Composer 2.5。新版本基于 Kimi K2.5 底座,合成训练任务量扩大 25 倍,并引入靶向文本反馈解决强化学习归因难题,显著提升长任务执行稳定性。团队目前正联手 SpaceXAI 用 10 倍算力训练更大模型。