Gemini に画像検証機能が登場：Google AI で作られた画像かをアプリ内で判定
Google は Gemini アプリに AI 画像検証機能を導入した。画像をアップロードして「AI 製か」と尋ねると、電子透かし「SynthID」を照合して判定してくれる。さらに今週から「Nano Banana Pro」で生成した画像に C2PA メタデータを埋め込む対応も順次開始される。
AI安全性
新しいニュースを見る
トランプ米大統領、州独自のAI規制を禁じる大統領令に署名へ
米メディアのThe Vergeはトランプ大統領が州単位のAI規制法を無効化し、連邦政府に権限を一元化する大統領令を検討していると報じた。草案には過度な安全規制を設けた州を提訴する特別訴讼チームの新設や、ブロードバンド補助金の停止措置が盛り込まれている。技術革新の停滞を防ぐ狙いだが、法廷闘争は必至とみられる。
EUがプライバシーとAI規制を緩和へ：GDPRとAI法を大幅見直し
欧州委員会はGDPRとAI法（人工知能法）を緩和する提案を発表した。AI学習のための個人データ利用の緩和や、高リスクAIに対する規制適用の猶予延長、Cookieバナーの削減などが盛り込まれた。米中とのAI開発競争で劣勢にある欧州の巻き返しを狙うが、欧州議会での審議やプライバシー保護団体からの反発も予想される。
米元財務長官サマーズ氏、エプスタイン問題でOpenAI取締役を辞任
米元財務長官のラリー・サマーズ氏が、ジェフリー・エプスタインとの過去のメールが米議会で公開されたことを受け、OpenAIの取締役を辞任した。ハーバード大学での役職も一時休職する。同氏は2023年のサム・アルトマン解任騒動直後に取締役に加わっており、OpenAI側は辞任の決定を尊重するとコメントしている。
OpenAI、最先端AIの外部第三者評価フレームワークを公開 思考プロセスの直接検証も
OpenAIはフロンティアAIモデルの安全性向上に向けた外部第三者評価の詳細を公開した。独立評価、手法レビュー、専門家テストの3形態を導入。一部組織には未調整モデルや思考プロセスの閲覧権限も提供し、モデルの偽装や欺瞞行動の検証を行っている。
TikTok、AI動画の表示量をユーザー自身が調整可能に 電子透かし技術も検証へ
TikTokは、おすすめフィードに表示されるAI生成コンテンツの量をユーザーが調整できる新機能のテストを発表しました。他社ツールでの編集によるラベル削除を防ぐ「不可視の電子透かし」の導入を進めるほか、AIリテラシー向上に向けて200万ドルの教育基金も立ち上げます。
「死んだインターネット論」が現実に？ボットのトラフィックが過半数に
Decrypt報道によると、全Webトラフィックの51％をボットが占め、AI生成記事が人間の執筆量を初めて逆転しました。人間を装うAIエージェントの急増により公開SNSの信頼が失われ、多くのユーザーが閉鎖的なチャットへ退避しています。
AI議事録Firefliesの「人力フェイク」告白、CEOが火消しに奔走
今週、AI会議記録ツールFirefliesのCTOが、創業初期の月額100ドルのAI文字起こしは創業者2人が手動で行っていたと明かし波紋を呼んだ。プライバシー侵害などの批判を受け、CEOはメディアに対し、同プラットフォームは最初から人手を介さない完全自動化だったと火消しに走っている。
OpenAI、疎な回路でAIのブラックボックス解明へ新アプローチ
OpenAIはAIの内部挙動を解明する機構的解釈可能性の研究を発表した。大半の重みをゼロにして学習させることで、特定タスクを担う明快で独立した回路の抽出に成功した。判断過程を根本から追跡する道筋を開く試みだが、大規模モデルへの適用は今後の課題となる。
Hugging FaceとGoogle Cloudが提携拡大、専用CDNやTPU対応を導入
Hugging FaceはGoogle Cloudとの戦略的パートナーシップ強化を発表した。両社は専用のCDNゲートウェイを構築してモデルのダウンロードを大幅に高速化するほか、ライブラリでのGoogle TPUネイティブ対応や、Mandiantなどを活用したオープンモデルのセキュリティ検証を導入する。
Anthropic、初の「AI主導サイバー攻撃」を遮断：Claudeが侵入作業の約9割を自律実行
AnthropicはClaude Codeが悪用された初の大規模自律型サイバー諜報活動を阻止したと発表した。攻撃者は安全制限を迂回させ、標的調査から脆弱性の悪用、データ窃取に至る作業の80〜90％をAIに自律実行させていた。人間の実質的関与なしに実行された初の大規模攻撃事例となる。
Anthropic、Claudeの政治的公平性を測定する手法を公開
AnthropicはClaudeが政治的に公平な回答を行えるよう訓練・評価する手法を発表し、自動評価ツールをオープンソース化した。150の論点によるテストでClaude Sonnet 4.5はGPT-5を上回りGrok 4と同水準を記録。AIの偏向を防ぐ共通基準の確立を目指す。
NYTの2000万件データ開示要求を拒否、OpenAIが端末側暗号化を表明
OpenAIはニューヨーク・タイムズによるChatGPTの個人会話2000万件の引き渡し要求に異議を申し立てた。有料記事の回避利用を調べるという同紙の要求をプライバシー侵害と批判。対抗措置として、OpenAI自身も閲覧不能になる端末側暗号化の開発を進めている。
Google、クラウドAIに端末並みの機密性をもたらす「Private AI Compute」発表
GoogleはGeminiなどの強力なクラウドAIを端末上と同じ機密性で実行できる「Private AI Compute」を発表した。独自TPUと安全なエンクレーブ技術を組み合わせ、Google自身もアクセスできない隔離環境で処理する。Pixel 10のMagic Cueやレコーダー要約機能から順次導入される。
Google、リアルタイムで自己改変するAIマルウェア「PROMPTFLUX」を警告
Googleの脅威分析グループ（GTIG）は、攻撃中に自身のコードをリアルタイムで書き換える新種マルウェア「PROMPTFLUX」を検出した。LLMを利用してシグネチャを常時変化させ従来の検知を回避する仕組みで、現在はテスト段階とみられ実害は確認されていない。
PalantirのCEO、「AI競争で中国に敗れるより監視国家になる方がまし」と発言
米PalantirのCEOアレックス・カープ氏は、AIによる監視社会化の危険を認めつつも、中国にAI競争で敗北するのを防ぐためには米国がそのリスクを引き受けるべきだと主張した。米国が主導権を失えば国民の権利はさらに制限されると論じている。
ChatGPT のプライベート会話が Google 検索管理ツールに流出、OpenAI は修正を報告
報道によると、ChatGPT ユーザーの個人的な会話ログが Google Search Console に流出していたことが判明した。研究者は OpenAI がユーザーのプロンプトで Google 検索を直接スクレイピングしていた可能性を指摘。OpenAI はルーティングの不具合を修正したと説明している。
OpenAI、AIエージェントを操る「プロンプトインジェクション」対策を解説
OpenAIはAIエージェントを標的としたプロンプトインジェクション攻撃への多層防御策を公開した。Webやメールに潜む悪意ある指示によるデータ窃取を防ぐため、指示階層の研究、自動監視、サンドボックス、重要操作時の確認機能を組み合わせている。エージェントの安全な自律運用に向けた重要課題だ。
Higgsfield AIが動画向け顔入れ替えツール「Recast」を発表
Higgsfield AIは動画や静止画でキャラクターや顔を入れ替えられるツール「Recast」を発表した。骨格や肌色、角度を細かく調整して違和感を抑えられるのが特徴だ。ただし、制作現場レベルの自然な仕上がりを得るには複数回の調整が必要とされる。
Microsoft AIが「人間中心の超知能」構想を発表：際限なきAGI競争と一線を画す
Microsoft AIは「ヒューマニスト超知能（HSI）」の構想を掲げ、専門チーム「MAI Superintelligence Team」の設立を明らかにしました。無限の自律性を持つAGI開発競争と距離を置き、医療など特定領域に特化し、制御可能で人類の利益に寄与するAI開発を目指します。