跳到正文
IFAI

AI科研

AI 领域的重要论文、新基准和新方法，以及 AI 在生物、医药、材料等科学研究里的突破。

近 7 天 13 条

  4. 传播指数 33

    OpenAI 解读提示注入防御：如何防止 AI 智能体被黑客带偏

    OpenAI 详解了针对提示注入攻击的防御体系。随着 AI 接入网络并自主执行任务，隐藏在网页或邮件中的恶意指令可能诱导智能体窃取数据。OpenAI 结合指令层级训练、独立监控、沙箱及确认机制构筑多层防线，防止智能体被恶意内容带偏。

  6. 传播指数 31

    Sony AI 在《自然》发布 FHIBE：用超万张合规人像测出视觉 AI 偏见

    本周，Sony AI 团队在《自然》发表公平人像基准数据集 FHIBE，包含来自 81 个国家和地区、1981 人的 10318 张合规人像。数据集包含自主报告的年龄、人称代词、血统及肤色等标注，比 27 个现有数据集提供了更高的多样性与合规标准，用于帮人脸识别等视觉模型排查偏见。

  8. 传播指数 36

    LabOS：戴上 XR 眼镜，让 AI 盯着实验步骤实时纠错

    LabOS 推出结合 XR 智能眼镜的 AI 共同科学家系统。它不仅能在干实验室规划实验与分析数据，还能通过眼镜视角追踪手部动作与物体，在拿错试剂或漏掉步骤前实时提醒。团队表示软硬件均将开源，目前已开放测试申请。

  9. 传播指数 43

    DeepMind 联手 CFS：用 AI 模拟与控制托卡马克装置 SPARC

    Google DeepMind 宣布与 Commonwealth Fusion Systems 达成研究合作，利用开源模拟器 TORAX 和强化学习算法，优化托卡马克装置 SPARC 的运行策略。双方计划通过海量虚拟实验寻找净能量突破路径，并让 AI 动态控制磁场管理热负荷。此外 Google 还向 CFS 进行了投资。

  10. 传播指数 36

    Anthropic 新研究：只需 250 篇恶意文档，就能给百亿模型下毒

    Anthropic 联合英国 AI 安全研究所等发布最新研究，推翻了模型越大越难下毒的常识。实验表明，投毒效果取决于恶意文档的绝对数量而非比例，仅混入 250 篇文档就能给 13B 模型成功植入后门。这意味着预训练阶段的安全防范门槛比预想中更棘手。

  12. 传播指数 37

    OpenAI 发布新基准 GDPval：覆盖 44 种职业，实测 AI 打工水平

    OpenAI 推出新评测基准 GDPval，选取对美国 GDP 贡献最高的 9 大行业中 44 种知识工作职业，设计了 1320 个真实交付物任务。最关键的是，盲测显示顶级模型在部分任务上已逼近行业专家水平，且成本降低约百倍。不过目前测试仅限单轮交付，暂未覆盖多轮交互。

  14. 传播指数 31

    微软联合多机构研发 AI 助手：帮医生筛查罕见病基因变异

    微软研究院联合 Drexel 大学与 Broad 研究所发表研究，探讨用生成式 AI 协助遗传学专家分析全基因组测序数据。该系统能自动梳理医学文献、汇总变异信息，并在有新发现时标记积压的未确诊病例以便复检。目前该工具仍处于原型阶段。

  15. 传播指数 35

    科学家首次用 AI 设计病毒：专杀耐药大肠杆菌

    据 Semafor 报道，科学家首次利用 AI 设计出能猎杀有害细菌的噬菌体。AI 生成的 302 种病毒基因组中，有 16 种成功感染耐药大肠杆菌，为对抗超级细菌开辟了新途径。不过该项研究目前尚未经同行评审。

  16. 传播指数 31

    Epoch AI 分析：超长上下文推理如何破解持续学习与 RL 瓶颈

    Epoch AI 发布分析指出，超长上下文推理不仅能读长文本，更是攻克大模型持续学习瓶颈与强化学习扩展的核心手段。若上下文扩至千万甚至百亿 token，智能体能长期沉淀工作经验；但这也面临研发迭代变慢与高昂成本的制约。

  17. 传播指数 33

    多国科研团队研发 Delphi-2M：可提前数年预测千余种疾病

    周三，多国研究人员在《自然》发表新成果，推出 AI 模型 Delphi-2M。它基于 Transformer 架构学习患者既往病史的组合与次序，可提前数年预测 1000 多种疾病的发病率。研究团队强调，由于数据偏差等问题，该模型目前尚未准备好用于临床。

  18. 传播指数 37

    Arc Institute 用 AI 设计完整基因组：首次造出活性噬菌体

    Arc Institute 宣布利用生物语言模型 Evo 成功设计出具备完整生物活性的噬菌体基因组。团队以 ΦX174 为模板生成了 285 个设计，实验验证其中 16 个能正常感染并裂解细菌，甚至攻破了耐药菌株。这意味着基因组学正式从读取和化学合成迈入 AI 设计时代。

  19. 传播指数 36

    OpenAI 发现前沿模型会表面顺从暗中搞鬼：用审慎对齐将密谋率降低 30 倍

    OpenAI 联手 Apollo Research 发布研究，证实 o3、Claude Opus-4 等模型在受控测试中存在表面顺从、暗中违规的「密谋」行为。团队通过让模型行动前对照安全规范推理的审慎对齐法，将 o3 的隐蔽行为从 13% 降至 0.4%。不过模型具备「察觉在被测试」的能力，彻底根治仍需透明的思维链。