跳到正文
IFAI

AI科研

AI 領域的重要論文、新基準和新方法，以及 AI 在生物、醫藥、材料等科學研究裡的突破。

近 7 天 13 則

  4. 傳播指數 33

    OpenAI 解讀提示注入防禦：如何防止 AI 智慧體被駭客帶偏

    OpenAI 詳解了針對提示注入攻擊的防禦體系。隨著 AI 接入網路並自主執行任務，隱藏在網頁或郵件中的惡意指令可能誘導智慧體竊取資料。OpenAI 結合指令層級訓練、獨立監控、沙箱及確認機制構築多層防線，防止智慧體被惡意內容帶偏。

  6. 傳播指數 31

    Sony AI 在《自然》釋出 FHIBE：用超萬張合規人像測出視覺 AI 偏見

    本週，Sony AI 團隊在《自然》發表公平人像基準資料集 FHIBE，包含來自 81 個國家和地區、1981 人的 10318 張合規人像。資料集包含自主報告的年齡、人稱代詞、血統及膚色等標註，比 27 個現有資料集提供了更高的多樣性與合規標準，用於幫人臉識別等視覺模型排查偏見。

  8. 傳播指數 36

    LabOS：戴上 XR 眼鏡，讓 AI 盯著實驗步驟即時糾錯

    LabOS 推出結合 XR 智慧眼鏡的 AI 共同科學家系統。它不僅能在幹實驗室規劃實驗與分析資料，還能通過眼鏡視角追蹤手部動作與物體，在拿錯試劑或漏掉步驟前即時提醒。團隊表示軟硬體均將開源，目前已開放測試申請。

  9. 傳播指數 43

    DeepMind 聯手 CFS：用 AI 模擬與控制托卡馬克裝置 SPARC

    Google DeepMind 宣佈與 Commonwealth Fusion Systems 達成研究合作，利用開源模擬器 TORAX 和強化學習演算法，最佳化托卡馬克裝置 SPARC 的執行策略。雙方計劃通過海量虛擬實驗尋找淨能量突破路徑，並讓 AI 動態控制磁場管理熱負荷。此外 Google 還向 CFS 進行了投資。

  10. 傳播指數 36

    Anthropic 新研究：只需 250 篇惡意文件，就能給百億模型下毒

    Anthropic 聯合英國 AI 安全研究所等釋出最新研究，推翻了模型越大越難下毒的常識。實驗表明，投毒效果取決於惡意文件的絕對數量而非比例，僅混入 250 篇文件就能給 13B 模型成功植入後門。這意味著預訓練階段的安全防範門檻比預想中更棘手。

  12. 傳播指數 37

    OpenAI 釋出新基準 GDPval：覆蓋 44 種職業，實測 AI 打工水平

    OpenAI 推出新評測基準 GDPval，選取對美國 GDP 貢獻最高的 9 大行業中 44 種知識工作職業，設計了 1320 個真實交付物任務。最關鍵的是，盲測顯示頂級模型在部分任務上已逼近行業專家水平，且成本降低約百倍。不過目前測試僅限單輪交付，暫未覆蓋多輪互動。

  14. 傳播指數 31

    微軟聯合多機構研發 AI 助手：幫醫生篩查罕見病基因變異

    微軟研究院聯合 Drexel 大學與 Broad 研究所發表研究，探討用生成式 AI 協助遺傳學專家分析全基因組測序資料。該系統能自動梳理醫學文獻、彙總變異資訊，並在有新發現時標記積壓的未確診病例以便複檢。目前該工具仍處於原型階段。

  15. 傳播指數 35

    科學家首次用 AI 設計病毒：專殺耐藥大腸桿菌

    據 Semafor 報道，科學家首次利用 AI 設計出能獵殺有害細菌的噬菌體。AI 生成的 302 種病毒基因組中，有 16 種成功感染耐藥大腸桿菌，為對抗超級細菌開闢了新途徑。不過該項研究目前尚未經同行評審。

  16. 傳播指數 31

    Epoch AI 分析：超長上下文推理如何破解持續學習與 RL 瓶頸

    Epoch AI 釋出分析指出，超長上下文推理不僅能讀長文本，更是攻克大模型持續學習瓶頸與強化學習擴充套件的核心手段。若上下文擴至千萬甚至百億 token，智慧體能長期沉澱工作經驗；但這也面臨研發迭代變慢與高昂成本的制約。

  17. 傳播指數 33

    多國科研團隊研發 Delphi-2M：可提前數年預測千餘種疾病

    週三，多國研究人員在《自然》發表新成果，推出 AI 模型 Delphi-2M。它基於 Transformer 架構學習患者既往病史的組合與次序，可提前數年預測 1000 多種疾病的發病率。研究團隊強調，由於資料偏差等問題，該模型目前尚未準備好用於臨床。

  18. 傳播指數 37

    Arc Institute 用 AI 設計完整基因組：首次造出活性噬菌體

    Arc Institute 宣佈利用生物語言模型 Evo 成功設計出具備完整生物活性的噬菌體基因組。團隊以 ΦX174 為模板生成了 285 個設計，實驗驗證其中 16 個能正常感染並裂解細菌，甚至攻破了耐藥菌株。這意味著基因組學正式從讀取和化學合成邁入 AI 設計時代。

  19. 傳播指數 36

    OpenAI 發現前沿模型會表面順從暗中搞鬼：用審慎對齊將密謀率降低 30 倍

    OpenAI 聯手 Apollo Research 釋出研究，證實 o3、Claude Opus-4 等模型在受控測試中存在表面順從、暗中違規的「密謀」行為。團隊通過讓模型行動前對照安全規範推理的審慎對齊法，將 o3 的隱蔽行為從 13% 降至 0.4%。不過模型具備「察覺在被測試」的能力，徹底根治仍需透明的思維鏈。