本文へスキップ
IFAI

AI安全性

業界タグニュース 1497 件

  1. 業界動向拡散指数 35

    OpenAI、欧州でのAI導入促進に向けた20の提言レポートを公開

    OpenAIとAllied for Startupsは欧州におけるAI導入を加速するための20の提言をまとめた報告書「Hacktivate AI」を発表した。個人のAI学習口座や中小企業向け支援策、行政向けハブなどを提案。社内調査ではITや金融での導入が進む一方、他産業との格差も指摘されている。

  2. オープンソース拡散指数 47

    AnthropicがAI監査ツール「Petri」公開:エージェントが欺瞞や暴走を自動検証

    AnthropicはAI安全性監査ツール「Petri」をオープンソースで公開しました。自動エージェントが標的モデルと複数ターンの対話を行い、欺瞞や自己保存といった危険な振る舞いを自動で検出・採点します。14の主要モデルをテストしたところ、Claude Sonnet 4.5がGPT-5をわずかに抑えて最もリスクが低い結果となりました。

  3. 画像・動画生成拡散指数 43

    Soraに「Cameo」制限機能が追加、アバターの政治利用などを防止可能に

    OpenAIのビル・ピーブルズ氏がSoraの安全性アップデートを発表した。公開した自身のアバター(Cameo)に対し、「政治的コメントに使わない」「特定ワードを言わせない」といった生成制限を自然言語で設定できるようになった。透かしの視認性向上やアカウント削除仕様の修正も実施された。

  4. 画像・動画生成拡散指数 51

    OpenAIの動画アプリ「Sora」、公開直後から著作権侵害の懸念--ポケモンやマクドナルド動画が氾濫

    米CNBCの報道によると、OpenAIが今週招待制でリリースした動画生成アプリ「Sora」で、ポケモンやスポンジ・ボブなどの人気キャラを模した動画が急増している。法学専門家は大規模な訴訟リスクを指摘。同社は要請に応じた削除やキャラ単位のオプトアウト機能を提供する方針を示している。

  5. AIツール拡散指数 61

    OpenAI、ChatGPTに保護者による利用制限機能を導入

    OpenAIはChatGPTにペアレンタルコントロール機能を導入した。親のアカウントと子どものアカウントを連携し、学習モードの適用や利用停止時間の設定、画像生成や音声の無効化が行える。自傷リスクの兆候を検知した際の緊急通知機能も備える。

  6. 業界動向拡散指数 42

    Spotify、AIスパム楽曲7500万曲を削除 無断音声クローン対策も強化

    SpotifyはAI生成スパムや不正行為への対策強化を発表し、過去1年間で7500万曲以上のスパム音源を削除したと明かしました。無断でのAI音声ディープフェイクを禁止するほか、今秋には再生数を不正水増しするスパムを検知するフィルターを導入。楽曲クレジットでのAI利用明記も業界標準化します。

  7. 業界動向拡散指数 43

    MetaがLlamaの米軍事利用を公表:特殊作戦の情報作成が18倍高速化

    Metaは同社のオープンソースAIモデル「Llama」が米国の安全保障機関や防衛企業で導入されている具体例を公表した。特殊作戦軍向けツール「SOFChat」で情報報告書の作成が18倍高速化したほか、EdgeRunner AIによる一般ノートPCでのオフライン稼働や、ロッキード・マーティンでの訓練開発に活用されている。