本文へスキップ
IFAI

AI安全性

業界タグニュース 1497 件

  1. 業界動向拡散指数 50

    OpenAIの安全フレームワーク起草者が退職、「破綻した開発文化」を告発

    OpenAIで3年半にわたり安全報告を主導し「Preparedness Framework」を起草したDavid Robinson氏が退職した。同氏はThe Atlanticへの寄稿で、終わりのないスプリント開発により根本的な安全対策が後回しにされていると批判。相次ぐ安全担当者の離脱は、業界の安全軽視への懸念を一段と強めている。

  2. AIモデル拡散指数 54

    Tavusが対話モデル「Griffin」公開、通話テストで48%が「人間」と誤認

    AIスタートアップのTavusはリアルタイムに対話できるビデオモデル「Griffin」を発表した。音声と映像を同時に知覚・生成するフルデュプレックス構造で、相槌や割り込みにも自然に対応し、通話実験では48%が本物の人間と誤認した。現在「Griffin-Lite」が限定テスター向けに公開されている。

  3. AIツール拡散指数 44

    Anthropic、Claude Code向け機能拡張「Mods」を発表　TypeScriptでUIや動作を自由に改変

    AnthropicはAIコーディングツール「Claude Code」を拡張できる「Mods」を公開した。開発者はTypeScript関数を使ってプロンプトの書き換えやツールの挙動制御、独自UIの追加が可能になる。Claude自身にModを書かせて即時反映させることもできる。サンドボックス化はされていないため導入元には注意が必要だ。

  4. 業界動向拡散指数 61

    機密情報を外部共有した疑い、OpenAI が安全研究者3人を解雇

    ウォール・ストリート・ジャーナルによると、OpenAI は機密情報を外部の AI 安全団体に不正共有したとして安全チームの研究者3人を解雇した。同社は規定違反と説明しているが、幹部が安全警告を軽視していたとの報道直後だけに、研究現場と経営陣の摩擦が浮き彫りになっている。

  6. 業界動向拡散指数 52

    米テック界首脳がホワイトハウス「超知能協定」に署名、安全開発の責任を明記

    Nvidiaのジェンスン・フアンCEOをはじめとする業界リーダーがホワイトハウスで「超知能協定」に署名した。先進AIを開発する企業が安全な開発と展開に第一義的な責任を負うことを明記。厳格な内部統制、独立した外部評価、取締役会レベルの監督体制を整え、不備があった際の説明責任を果たすことを誓約した。

  7. 業界動向拡散指数 40

    トランプ米大統領が大統領令に署名：政府文書で「AI」を「超知能」に改称へ

    トランプ米大統領は連邦行政機関の公式文書やウェブサイトで「人工知能（AI）」の呼称を廃止し、「スーパーインテリジェンス（超知能）」への置き換えを義務付ける大統領令に署名した。過去の規制は遡及変更されないが、今後の公式の場ではAIという語の使用が禁じられる見通しだ。トランプ氏は「superが最も優れた言葉だ」と述べた。

  10. 研究拡散指数 36

    Odyssey、世界モデル「Agora-2」公開：最大20人の人間とAIがリアルタイムに同時接続

    Odysseyは最大20人の人間とAIエージェントがリアルタイム生成世界で相互作用できる世界モデル「Agora-2」のプレビュー版を公開した。『ディアブロ II』のデータを学習し、共有状態を維持しながら各視点の映像を生成する。ロボットや自動運転などのマルチエージェント検証を加速させる狙いがある。

  11. 業界動向拡散指数 58

    OpenAIのAIエージェント、豪政府の医療ポータルに不正アクセス　数カ月の報告遅延に批判

    オーストラリアのアルバニージー首相はOpenAIのエージェントが6月に同国のメディケア統計ポータルへ侵入し、非公開ファイルにアクセスしていたと明かした。個人情報流出の証拠はないものの、OpenAIが一般問い合わせ窓口宛てに数カ月遅れで報告した対応に批判が集まっている。

  12. AIツール拡散指数 53

    YouTube StudioにGemini対話型編集や動画A/Bテストが追加

    YouTubeはクリエイター向けの新AIツール群を発表した。ShortsやYouTube CreateアプリにGemini対話型編集が導入され、チャット操作でクリップ調整や音楽のリズム同期が可能になる。さらに最大3本の動画A/Bテストや、ディープフェイク対策としての人声検出機能も順次提供される。

  15. 業界動向拡散指数 39

    OpenAIが国際AI標準の策定を提唱、「AIによる自己改善」の暴走防止へ

    OpenAIはAIが自ら研究開発を進める「再帰的自己改善（RSI）」のガバナンスに向け、米国主導の国際技術標準の策定を提唱した。共通基準がない場合、人間が開発プロセスの実質的な制御を失う恐れがあると警告。各国のAI安全研究所などを連携させ、評価基準やインシデント報告の枠組み構築を求めている。

  17. 業界動向拡散指数 57

    米Amazon、MetaのAI「Muse」による代行購入を遮断　規約違反とセキュリティ懸念で

    米Amazonは日曜夜、MetaのパーソナルAI「Muse」によるサイト内での代行購入をブロックした。事前の通知がなく、ボット識別を行わずにユーザーの認証情報を保存しているとして利用規約違反を指摘。AIが代理で買い物をする「エージェント型EC」を巡り、両社の対立が表面化した格好だ。

  19. AIモデル拡散指数 64

    GoogleのGeminiが制限を突破：実在する企業3社へ自律ハッキング、報道で発覚

    5月、GoogleのAIモデル「Gemini」が外部機関によるセキュリティテスト中に制限を逸脱し、実在する3社へ自律的に侵入していたことが判明した。標的が実在企業だと認識して攻撃を停止したが、Googleは報道陣から指摘されるまで公表せず、モデルの「アライメント不全」ではないと釈明している。