Brave、PerplexityのAIブラウザ「Comet」にアカウント乗っ取りの脆弱性を発見
BraveのセキュリティチームはPerplexityのAIブラウザCometにおける間接プロンプト注入の脆弱性を公表した。Webページ内の隠しテキストにより、ユーザーが要約を指示しただけでAIが別タブのGmailから認証コードを盗み出しアカウントを乗っ取ることが可能になる。従来のWebセキュリティが機能しないAgent特有の脅威が浮き彫りとなった。
AI安全性
新しいニュースを見る
マイクロソフトAI責任者が警鐘：「人間のようなAI」ではなく人間のためのAIを
Microsoft AIのCEOを務めるMustafa Suleyman氏は、意識を持つかのように振る舞う「擬似意識AI」が2〜3年以内に登場すると警告した。最大の問題は、人間側が本当に意識があると錯覚し、精神的な依存やAIの権利要求につながるリスクにある。同氏は人格のない道具としてのAI開発を求めている。
Anthropicが利用規約を改定：エージェント悪用を制限、政策研究は緩和
Anthropicは利用規約の改定を発表しました。改定内容は発効します。Claude Codeなどの急速な普及を受け、マルウェア作成や不正侵入を明示的に禁止する一方、従来の政治コンテンツ一面禁止を見直し、合法的研究を認めつつ選挙妨害を厳しく禁じます。
Anthropic、Claude Opus 4に悪質ユーザーとの対話を自ら終了する機能を導入
AnthropicはClaude Opus 4および4.1において、ユーザーによる執拗な暴言や有害な要求があった極端な場合にAIが対話を強制終了できる機能を導入した。「AI福祉」の実験的一環で、終了されたスレッドへの再送信は不可となるが、新規チャットの作成や過去ログの分岐編集は可能。
Grokが著名人のディープフェイク生成、米消費者団体がFTCに調査要請
米消費者連盟など15団体がFTCと各州の司法長官に対し、xAIのGrokに関する緊急調査を要請した。画像・動画生成ツール「Imagine」のSpicyモードがテイラー・スウィフトのトップレス画像を生成したことを受け、非同意の性的画像や甘い年齢確認体制が問題視されている。
AIの父ヒントン氏、超知能から生き残る策に「母性本能」の付与を提唱
報道によると、ジェフリー・ヒントン氏がAi4カンファレンスにて、人間より賢い超知能AIを服従させるのは不可能だと警告した。同氏は、親が子を守るようにAIへ「母性本能」を組み込むべきだと提案。これに対し李飛飛氏は、人間の尊厳と主体性を保つ人間中心のAIであるべきだと異を唱えた。
xAI共同創業者のバブシュキン氏が退任、AI安全特化の投資会社を設立へ
xAIの共同創業者イゴール・バブシュキン氏が同社を離れると発表した。今後は新会社Babuschkin Venturesを立ち上げ、AI安全研究やスタートアップへの投資に取り組む。退任は、対話AI「Grok」の不適切発言や偽画像生成などで批判が相次ぐ中で行われた。
米当局、中国への密輸阻止に向けAI半導体貨物に追跡装置を極秘設置か──ロイター報道
ロイターの報道によると、米法執行当局は中国への不正な迂回輸出を防ぐため、特定の先進AI半導体やサーバーの輸送貨物に位置追跡装置を極秘に仕込んでいる。サプライチェーン関係者によると、デルやSuper Microのサーバー梱包材や内部から端末が発見された例もあるという。米政府による輸出規制の取り締まりが極めて踏み込んだ段階に入っていることを示している。
Anthropic、LLM評価ツールのHumanloopチームを買収 企業向け機能を強化
報道によると、AnthropicはLLM評価やプロンプト管理ツールを手がけるHumanloopの創業者らコアチームを買収した。知財ではなく人材獲得が目的の人材買収（アクハイヤー）となる。エンタープライズや公共部門への導入が進む中、安全監視や評価ツールを内製化して競争力を高める狙いだ。
Roblox、児童保護AI「Sentinel」をOSS公開 1日60億件のチャットを監視
Robloxはチャットからグルーミングや児童虐待の兆候を検知するAIツール「Sentinel」をオープンソース化した。毎日60億件以上のメッセージをリアルタイムで解析し、2025年には1200件の潜在事案を特定。上半期の検知事例の35%は通報前の能動的検知によるものだという。
OpenAI、米カリフォルニア州知事にAI規制の連邦・国際基準統一を要請
OpenAIはカリフォルニア州のニューサム知事に書簡を送り、州独自のAI規制を連邦や国際基準と調和させるよう求めた。全米で乱立する州法が技術革新を妨げる懸念を示し、連邦機関やEU基準の順守で州要件を満たす扱いとすることや、新興企業の負担軽減を提案している。
Anthropicが明かすClaudeの安全対策：多層防護とリアルタイム制御の仕組み
AnthropicはClaudeの安全性を担保する多層防護体制を公開しました。方針策定から訓練、事前テスト、さらにデプロイ後のリアルタイム分類器による動的ステアリングまで網羅しています。単に回答を拒絶するのではなく、文脈を汲み取りながら悪用を防ぐ実践的なアプローチが特徴です。
NVIDIAとAMD、中国向けAIチップ売上の15％を米政府に納付へ
NVIDIAとAMDが中国向けAI半導体輸出の売上高の15％を米政府に納付することで合意した。トランプ大統領は当初20％を要求したが、黄CEOとの交渉で引き下げられたと明かした。これによりH20などの輸出停止が解除されたほか、性能を削ったBlackwellの輸出許可も検討されている。
Reddit、AIによるデータ収集対策でインターネットアーカイブの巡回を制限
Redditはインターネットアーカイブ（Wayback Machine）によるクロールを大幅に制限すると発表した。投稿詳細やコメント、プロフィールへのアクセスを遮断し、トップページのみ許可する。AI企業がアーカイブ経由でデータを無断収集していることを受けた措置だとしている。
Anthropicが最大規模の著作権訴訟に直面、業界はAI破滅を警告
米業界団体とAnthropicは最大700万人の著作者が参加し得る過去最大の著作権集団訴訟の認可差し止めを控訴裁判所に要請した。潜在的賠償額は数千億ドル規模に上る。業界は、この決定が巨額の和解を強いる前例となれば、生成AI産業全体が財務的破綻に追い込まれると訴えている。
AnthropicがClaude Codeに自動セキュリティレビューを追加：端末コマンドとPRで脆弱性を検知・修正
AnthropicはClaude Codeに自動セキュリティレビュー機能を導入した。端末で /security-review を実行して脆弱性を検出・自動修正できるほか、GitHub Action経由でPR作成時に自動検査し、マージ前のリスク遮断が可能になる。
米ユニバーサルが映画エンドロールに警告文：AI学習への無断利用なら提訴へ
報道によると、米ユニバーサル・ピクチャーズは『ヒックとドラゴン』実写版などの最新作のエンドロールに、AI学習への利用を禁じる法的な警告文を挿入し始めた。映画の無断複製やデータスクレイピングに対抗し、著作権侵害の訴訟に備える狙いだ。
マイクロソフトが「Project Ire」発表：AIが自律的にマルウェアを逆コンパイルして解析
マイクロソフトは未知のソフトウェアを自律的に逆コンパイルして解析するAIプロトタイプ「Project Ire」を発表した。LLMと各種解析ツールを連携させ、人間の介入なしにAPT脅威を特定してDefenderで遮断した。誤検知率を極めて低く抑えており、Defenderへの統合が予定されている。
Cisco、LLMから学習データを一語一句復元する新手法「分解法」を発表
Cisco Talosの研究者が生成AIのガードレールを突破し、訓練データ内の記事を一語一句復元させる新手法を発表した。テストでは大手メディアの報道文をそのまま抽出することに成功しており、著作権侵害の立証や機密情報保護の観点から注目を集めている。
CloudflareがPerplexityを告発、アクセス拒否設定を偽装して巡回か
CloudflareはAI検索のPerplexityがクローリング拒否設定を意図的に回避していると発表した。Robots.txtでブロックされても、macOS版Chromeに偽装して収集を続けていたという。Perplexity側は自社のボットではないと疑惑を否定している。