OpenAI、疎な回路でAIのブラックボックス解明へ新アプローチ
OpenAIはAIの内部挙動を解明する機構的解釈可能性の研究を発表した。大半の重みをゼロにして学習させることで、特定タスクを担う明快で独立した回路の抽出に成功した。判断過程を根本から追跡する道筋を開く試みだが、大規模モデルへの適用は今後の課題となる。
研究 · デイリー
木
11月13日 木曜日
Google DeepMindが「SIMA 2」発表、Gemini搭載で3Dゲームを自律推論プレイ
Google DeepMindはGeminiを中核に据えた3D仮想環境向けエージェント「SIMA 2」を発表しました。画面を見てキーボードとマウスで操作するだけでなく、目的を推論して言語で説明し、未経験の世界でも自己改善しながらプレイできます。現在は研究者向けに限定プレビュー公開中です。
「世界モデル」3つの潮流：李飛飛は3D資産、ルカンは予測脳、DeepMindはシミュレータ
AI各社が提唱する「世界モデル」の実態の違いを解説する分析が公開されました。李飛飛率いるWorld LabsのMarbleは3Dガウススプラッティング資産生成、ルカン氏は行動計画用の内部潜在表現、DeepMindはGenie 3やSIMA 2によるインタラクティブ動画シミュレータを指向しており、同じ言葉でもアプローチは大きく分かれています。
Anthropic、Claudeの政治的公平性を測定する手法を公開
AnthropicはClaudeが政治的に公平な回答を行えるよう訓練・評価する手法を発表し、自動評価ツールをオープンソース化した。150の論点によるテストでClaude Sonnet 4.5はGPT-5を上回りGrok 4と同水準を記録。AIの偏向を防ぐ共通基準の確立を目指す。
水
11月12日 水曜日
Landing AIがDocVQAで99.16%を達成：解析と問答の分離で新SOTA
Landing AIが文書理解ベンチマークDocVQAで99.16%の精度を記録し、Qwen2-VLや人間基準を上回った。独自モデル「DPT-2」で文書を一度だけ構造化解析し、その後の問答はLLMに任せる手法を採用。画像処理の重複をなくすことで、低コストかつ追跡可能な文書処理を実現した。
金
11月7日 金曜日
Terminal-Benchが「Harbor」と「2.0」を発表、エージェント検証を厳格化
Terminal-Benchは本日、大規模なサンドボックス環境でエージェントを実行するパッケージ「Harbor」と、検証基準を高めて難易度を引き上げた「Terminal-Bench 2.0」を発表しました。自律型エージェントの評価環境をより堅牢に整備します。
OpenAI、AIエージェントを操る「プロンプトインジェクション」対策を解説
OpenAIはAIエージェントを標的としたプロンプトインジェクション攻撃への多層防御策を公開した。Webやメールに潜む悪意ある指示によるデータ窃取を防ぐため、指示階層の研究、自動監視、サンドボックス、重要操作時の確認機能を組み合わせている。エージェントの安全な自律運用に向けた重要課題だ。
Googleが「Nested Learning」を発表：AIの「壊滅的忘却」を防ぐ新パラダイム
Google ResearchはAIが新しい知識を学ぶ際に過去の記憶を失う「壊滅的忘却」を防ぐ新パラダイム「Nested Learning」を発表した。モデル構造と最適化アルゴリズムを多層の入れ子構造として統合し、検証アーキテクチャ「Hope」において標準的なTransformerを上回る長文記憶性能を実証した。
水
11月5日 水曜日
ソニーAIが「FHIBE」をNatureで発表：1万枚以上の同意済み画像でAIの偏見を測定
ソニーAIの研究チームが今週、コンピュータビジョンのバイアスを測定する公平画像ベンチマーク「FHIBE」をNature誌に発表した。81の国と地域から1981人、計10318枚の同意を得た画像を収録。年齢や代名詞、血統、肌の色などを自己申告データで網羅し、顔認識などのAI偏見是正を目指す。
月
10月20日 月曜日
Anthropicが生命科学特化のClaudeを発表、実験手順テストで人間超え
Anthropicは創薬や研究を支援する「Claude for Life Sciences」を発表した。最新のClaude Sonnet 4.5を基盤とし、実験プロトコル評価で人間の基準値を上回る性能を実証。PubMedやBenchlingとの連携や自律スキルを備え、研究から薬事申請までを支える。
金
10月17日 金曜日
リアル実験を支援する LabOS：XR グラスで AI が手順ミスをリアルタイム検知
実験室向け AI システム「LabOS」が登場しました。XR スマートグラスを組み合わせることで、AI が作業者の手元や試薬を視認し、手順の抜け漏れやミスを未然に防ぎます。計算計画から物理実験までカバーし、ハードウェアを含めたオープンソース化が予定されています。
木
10月16日 木曜日
Google DeepMind、核融合のCFSと提携 強化学習とシミュレータ「TORAX」でSPARC制御へ
Google DeepMindは核融合スタートアップの米CFSとの研究提携を発表した。プラズマシミュレータ「TORAX」と強化学習を活用し、トカマク型装置「SPARC」の運転計画を事前に最適化して正味エネルギー獲得を支援する。さらにAIによる磁場制御で熱負荷を分散させるリアルタイム制御技術も開発する。
木
10月9日 木曜日
Anthropicが発表、わずか250件の悪意ある文書で13Bモデルの毒入れが可能に
Anthropicや英AISIなどの研究チームは、LLMへのデータ汚染攻撃に関する研究を発表した。モデルの規模に関係なく、攻撃の成否はデータの割合ではなく絶対数に依存し、わずか250件の悪意ある文書を混ぜるだけでバックドアの埋め込みに成功した。大型モデルほど汚染しにくいという前提を覆す結果だ。
火
9月30日 火曜日
世界モデル内で学ぶAI「Dreamer 4」：実環境と対話せず「マイクラ」でダイヤ採掘に成功
研究チームが世界モデル内で強化学習を行う「Dreamer 4」を発表しました。生のピクセルから2万回以上の操作を「想像」の中で推論し、実環境と対話せずオフラインデータのみでMinecraftのダイヤモンド採掘に初成功。ロボットなど実機試行が危険な分野への応用が期待されます。
木
9月25日 木曜日
OpenAI、実務評価の新基準「GDPval」公開 44職種でAI能力を検証
OpenAIは実社会での経済的価値を測定する評価基準「GDPval」を発表した。米国GDP上位9業界・44の知識労働職種から1320件の現場タスクを抽出。最新モデルがベテラン専門家並みの品質を約100倍安く達成できる一方、現行版は1回完結の評価に限られる。
火
9月23日 火曜日
感情を継続学習する新AI手法、人間の表情に適応するロボットの実現へ
IEEEの学術誌でAIが人間の感情を増分学習する新手法が発表された。従来のモデルとは異なり、過去の知識を失わずに新しい表情データに適応できるため、再学習の手間を省き、より共感力の高いロボットの対人対話を支援できるという。
月
9月22日 月曜日
マイクロソフトら、希少疾患の診断を支援する生成AI助手を研究
マイクロソフト研究所はドレクセル大学らと共同で、全ゲノム解析を支援する生成AIアシスタントの研究を発表した。膨大な医学文献から遺伝子変異の情報を要約し、最新知見が出た際に未解決症例の再解析を促す。現在はプロトタイプによる検証段階にある。
日
9月21日 日曜日
科学者がAIでウイルスを初設計：耐性菌を狙い撃ち
Semaforによると、研究チームがAIを用いて有害な細菌を殺滅するバクテリオファージの設計に初めて成功した。AIが生成した302種類のウイルスのうち16種が耐性大腸菌に感染することを確認。新治療法開発への足がかりとなるが、研究はまだプレプリント段階にある。
金
9月19日 金曜日
Epoch AIが分析：超長文脈推論がAIの継続学習と強化学習をどう変えるか
Epoch AIは超長文脈推論の影響に関する分析を公開した。単なる長文読解にとどまらず、AIが知識を蓄積し続ける「継続学習」の壁を破り、強化学習をスケールさせる鍵になると指摘。数千万〜百億トークン規模になれば長期の実務経験を保持できる一方、研究イテレーションの長期化や高コストが課題となる。
英独などの研究チームが「Delphi-2M」開発、1000種以上の疾患リスクを数年前から予測
水曜日、英独などの国際研究チームがNature誌でAIモデル「Delphi-2M」を発表した。患者の病歴データをTransformerで解析し、1000種以上の疾患リスクを数年先まで予測できる。データセットの偏りにより臨床導入にはまだ課題が残るものの、予防医療に向けた新たな道筋を示した。
