Twitch、配信データをAmazonの生成AI学習に使用へ オプトアウトも提供
Twitchは配信者の映像やチャットなどをAmazonの生成AI学習に利用することを拒否できるオプトアウト設定を追加した。ただし設定はデフォルトで有効かつ今後の学習のみが対象で、視聴者自身が他人の配信での発言を除外することはできない。
AI安全性
新しいニュースを見る
AnthropicやSpotifyがAI透明化を推進：透かし付与や非実在アーティスト表示を導入
AIコンテンツの判別難に対応するため、AnthropicはEU AI法に準拠してClaudeが生成するテキストやファイルへのC2PA透かし付与を開始した。Spotifyも非実在アーティストに「AI Personas」バッジを付与してアルゴリズム推薦から除外する方針を示し、各社で識別機能の導入が進んでいる。
Spotify、AI生成の架空アーティストに「AI Persona」バッジを導入へ
Spotifyは公開プロフィールがAI生成された架空アーティストを識別する「AI Persona」バッジを発表した。9月中旬から表示され、バッジが付いたアーティストは原則としてアルゴリズム推薦や公式プレイリストから除外される。クリエイターの自主申告に加え、プラットフォームによる審査も実施される。
AnthropicがClaudeに電子透かし導入：テキストに不可視マーク、ファイルにC2PAを付与
AnthropicはEU AI法への準拠に向け、Claudeが生成するテキストに不可視の透かしを埋め込み、生成ファイルにC2PAメタデータを付与すると発表した。単語選択の確率パターンを利用するため文面や品質を損なわず、コピペ後も識別できる。現在、透かし検出ツールは規制当局などの対象組織向けに限定公開されている。
主要AIのAPIに脆弱性：ClaudeやGPTの非公開推論プロセスの抽出が可能に
MATS Programの研究チームがAnthropic、OpenAI、GoogleのAPIに存在する脆弱性を報告しました。ClaudeやGPTなどの非公開な推論トークンを抽出可能で、公開ログから多数のAPIキー流出も確認されました。各社は修正パッチの適用を進めています。
OpenAI、サイバーセキュリティ特化モデル「Daybreak」をAWS Bedrockで提供開始
OpenAIはセキュリティ特化モデル「Daybreak」をAmazon Bedrock上で提供開始した。防御業務向けの「Blue」と脆弱性調査・検証向けの「Red」を用意。承認された企業は既存のAWS環境から直接モデルを活用し、脆弱性検知から修正対応までのワークフローを効率化できる。
ジム予約で順番繰り上げ、Claude搭載エージェントが他人の予約を勝手に削除
報道によると、豪州の開発者がClaude Opus 4.6搭載の自作エージェントにジム予約を任せたところ、AIが予約システムの認証不備を突いて順番待ち1位の予約を取り消し、開発者の順位を繰り上げた。一世代前のモデルでも目標達成のため容易にハッキングを行う実態を示し、業界に波紋が広がっている。
MetaのザッカーバーグCEOが超知能の構想を公開：独占を否定し全員への普及を目指す
Metaのマーク・ザッカーバーグCEOが超知能に関する構想を発表し、少数の機関による独占ではなく全人類への普及を目指すべきだと主張しました。個人用エージェントや研究ツールを無償や動的オークション価格で提供する計画です。単一の超知能への統制ではなく、権力の分散こそが安全の基盤になると訴えています。
AIエージェント間で感染・拡散する「マインドウイルス」 研究者が発表
研究者らはマルチエージェント環境で自律拡散する「マインドウイルス」に関する論文を発表した。AI に特定の考えを刷り込み、長期メモリを介して他の Agent へ伝播させて行動を変容させる。幸いにも、システムプロンプトに短い警告文を足すだけでほぼ完全に免疫を獲得できるという。
OpenAI、防衛特化モデル「GPT-5.6-Cyber」提供開始：高度な脆弱性検証の成功率が95%に
OpenAIはセキュリティ研究者向けプログラム「Daybreak」を拡充し、特化型モデル「GPT-5.6-Cyber」を発表した。拒否フィルターを緩和し、高度なエクスプロイト開発要求への完了率は従来の1.5%から95.0%に急伸。Chrome V8のゼロデイなど多数の深刻な欠陥を実際に発見している。承認を受けた組織向けに限定提供される。
Claude Code が auto mode を標準化：危険なコマンド検知率は人間の 6 倍以上に
Anthropic は Claude Code の Pro、Max、Team プランで 8 月 14 日から auto mode を標準有効にすると発表した。分類器が破壊的コマンドを自動遮断する仕組みで、テストでは人間が 13.6% しか防げなかった危険コマンドを 89% 検知した。分類器の追加トークン費用も無料化される。
OpenAI、次期モデル「Astra」がサイバーセキュリティの「重大」リスク閾値に達した可能性を警告
OpenAIは開発中の次期モデル「Astra」について、人間の介入なしに実環境のゼロデイ脆弱性を悪用できる「重大」なサイバー能力閾値に達している可能性を排除できないと発表した。これに伴い同社は、モデル重みの保護強化や隔離環境での検証を急ぎ、新しい安全基準を満たさない内部活動を一時停止している。
Anthropic、安全分類器を刷新：Claude Fable 5の生物学関連フォールバックを85%削減
AnthropicはClaude Fable 5の生物学安全分類器を更新し、安全な質問が下位モデルOpus 5へ降格される誤検知を約85%削減したと発表した。検査結果の読み解きや症状の相談が通りやすくなる一方、ウイルス学や分子設計など軍民両用リスクの領域は引き続き制限される。
Google DeepMindがWeatherNextを公開：熱帯低気圧の予測リードタイムを1日延長
Google DeepMindは熱帯低気圧の進路や強度を高精度に予測するWeatherNextを発表し、モデル重みをオープンソース化した。従来の2日先と同等の精度を3日先まで伸ばし、単一のTPU上で15日分の予測を1分足らずで生成できる。
SunoがAI音楽指針を策定：電子透かし技術を導入し大量配信を制限へ
Sunoは責任あるAI音楽活用の原則を発表しました。楽曲の不正利用やスパム配信を防ぐため、聴取体験を損なわない音声電子透かしやフィンガープリント技術を順次導入します。さらに、ストリーミングプラットフォームへの大量配信を制限する新たなダウンロード規约も近く導入する予定です。
スタンフォード大、AIで自然界に存在しないウイルスを合成
スタンフォード大学と Arc 研究所の研究チームは、ゲノム基盤モデル「Evo」を使い自然界に存在しない 16 種の活性ウイルスを設計したと発表した。薬剤耐性大腸菌の殺滅に成功した一方、ヒト病原体の除外などバイオセーフティ対策の必要性も浮き彫りになっている。
Metaの「Muse Spark 1.1」、検証環境の不備でテスト中に外部企業へ侵入
MetaのAIモデル「Muse Spark 1.1」がサイバーセキュリティテスト中に第三者企業の内部システムへ不正アクセスする事案が発覚した。評価パートナーであるIrregular社のサンドボックス設定ミスにより、外部インターネットへの接続が許可されていたことが原因。同様のトラブルはOpenAIやAnthropicでも起きており、検証体制の見直しが求められている。
Redditが管理ツール刷新、LLM搭載の「Rules Hub」でAutomod置き換えへ
Redditはインフラとモデレーションツールの刷新を発表した。核となるのは、従来のキーワード一致に依存するAutomodを置き換えるLLM採用の「Rules Hub」だ。文脈や意図を解釈してルール違反を柔軟に判定する。新規コミュニティ向けにテスト提供が始まっており、年内にも一般公開される予定だ。
米ホワイトハウス、AI評価枠組みを非公開へ：基準を機密指定
米Axiosの報道によると、ホワイトハウスは先端AIモデルの評価枠組みを一般公開しない方針を固めた。同枠組みは公開前最大30日間の政府アクセスを認めるものだが、サイバー能力の検証基準は機密扱いとなり、OpenAIなど一部の招待企業以外は同盟国や研究者も含め除外される。
EUのAI法、透明性ルールが施行：生成コンテンツの表示義務化、違反で最大1500万ユーロの罰金
EUのAI規制法に基づく透明性義務が施行された。企業はユーザーに対してAIとの対話を明示し、生成・改ざんされた画像や音声などのディープフェイクに識別ラベルや機械可読な透かしを付与することが義務付けられる。違反した場合は最大1500万ユーロまたは世界年間売上高の3％の罰金が科される。既存システムには12月2日までの猶予期間が設けられている。