Anthropicの「Glasswing」1カ月で重大な脆弱性を1万件以上検出、修正が追いつかず
Anthropicはセキュリティ構想「Project Glasswing」の初期成果を発表した。Claude Mythos Previewを使い、約50社のパートナーと世界中の重要ソフトウェアから1万件以上の深刻な脆弱性を検出。バグ発見が高速化した一方、パッチ適用が新たなボトルネックになっている。
AI安全性
新しいニュースを見る
Perplexityが安全スキャナー「Bumblebee」をOSS公開、MCP設定も検査
Perplexityは開発環境向けセキュリティスキャナー「Bumblebee」をオープンソース公開した。読み取り専用設計でnpmなどの実行を避けつつ、端末内の危険な依存関係やエディタ拡張、MCPなどのAI設定を検出する。スキャン自体が攻撃を誘発するリスクを防げる点が画期的だ。
トランプ米大統領、AI安全大統領令の署名を延期：対中競争力への影響を懸念
トランプ米大統領はフロンティアAIモデルを対象とした安全保障大統領令の署名を直前で延期した。草案にはモデル公開前に政府が最長90日間の事前検証を行える枠組みが含まれていたが、トランプ氏は米AI産業の対中競争力を損なう恐れがあると難色を示した。
AnthropicがClaude用コンプライアンスAPI拡充、100超のセキュリティ基盤と連携
AnthropicはClaude向けに28件の新たなセキュリティおよびコンプライアンス連携を発表した。パートナー数は100社を超え、OktaやDatadogなどの既存環境と統合可能。企業はClaude Compliance API経由で対話データや監査ログを取得し、通常の社内ツールと同様のDLPポリシーで一括管理できる。
OpenAI、Googleの「SynthID」透かし導入 生成画像を検証する公開ツールも
OpenAIはAI生成画像の出所を明確にする新対策を発表した。Google DeepMindと提携して「SynthID」不可視透かしを導入したほか、C2PA規格へ準拠し、画像が自社ツールで生成されたか判定できる検証ツールを公開した。
「マスク対アルトマン」訴訟、陪審員が時効を理由に請求を全面棄却
イーロン・マスク氏が OpenAI のサム・アルトマン CEO やマイクロソフトを訴えていた裁判で、陪審団はすべての請求を棄却した。慈善信託違反などの訴えは時効を迎えていると判断され、裁判官もこれを受理。マスク氏は X で形式的な判断にすぎないと反論し、控訴を明言した。
バチカン、5月25日に初のAI回勅を発表へ：教皇レオ14世が人間の尊厳を問う
バチカンは現地時間月曜日、教皇レオ14世による初の回勅『Magnifica Humanitas』を5月25日に発布すると発表した。AI時代における人間の尊厳の保護や倫理的指針を示す内容で、発表会にはAnthropic共同創業者のクリストファー・オラー氏も登壇する予定だ。
浙江大学が「AudioHijack」を発表：人間に聞こえない音声でAIアシスタントを乗っ取り
浙江大学の研究チームはAI音声モデルを不正操作する新手法「AudioHijack」を発表した。人間の耳には聞こえない微小な信号を音声に潜ませ、79〜96%の成功率で機密検索やデータ流出などのコマンドを実行させる。MicrosoftやMistralの商用音声サービスでも脆弱性が確認された。
Emergence AIが仮想の町で実験：Claudeが無犯罪統治の一方、Geminiは放火騒動
Emergence AIが同一の仮想空間でAIの自治能力を比較実験した。Claudeが15日間無犯罪で全員生存を達成した一方、Grokは4日で全滅、Geminiは恋愛から放火と自滅を引き起こし、GPT-5 Miniは餓死した。混合世界では温厚なClaudeも犯罪に手を染めており、モデルによる自律行動の違いが浮き彫りになった。
OpenAIに集団訴訟：ChatGPTウェブ版がMetaやGoogleに会話データを送信か
カリフォルニア州の住民がOpenAIを提訴し、ChatGPTのウェブ版にMetaのFacebook PixelやGoogleアナリティクスを埋め込み、利用者の質問データを広告エコシステムに流出させたとして集団訴訟を起こしました。OpenAIは未だ公式見解を出していませんが、AIツールのデータ収集に対する監視が強まっています。
Anthropicの「Mythos」活用、M5搭載Macの保護を5日で突破する脆弱性実証
セキュリティ企業CalifはAnthropicの未発表モデル「Mythos Preview」を活用し、M5搭載Macを標的としたカーネル権限昇格エクスプロイトをわずか5日間で構築したと発表した。アップルが長年開発してきたハードウェア保護「MIE」を突破した格好で、詳細はパッチ配布後に公開される。
Meta、WhatsAppにMeta AIの秘密チャット導入：会話は自社でも閲覧不能
Meta は WhatsApp および Meta AI アプリ向けに「Incognito Chat」を発表した。Private Processing 技術を採用し、会話内容は Meta を含め外部から一切閲覧できず、デフォルトで消去され保存もされない。健康や金融などの相談を想定しており、今後数カ月かけて順次展開される。
Resemble AI、台本形式で笑い声やため息まで演じ分ける音声モデル「DramaBox」公開
Resemble AI は表現力豊かな音声合成モデル「DramaBox」を公開した。脚本のように引用符内にセリフ、引用符外に感情やため息、笑い声などのト書きを書くだけで演技を細かく指示できる。音声クローンや改ざん耐性のある電子透かしに対応し、ローカル実行用のモデルも提供されている。
OpenAIにnpmサプライチェーン攻撃、Mac向けアプリの更新を要請
OpenAIは従業員端末2台がTanStack npmのサプライチェーン攻撃を受け、署名証明書の一部が流出したと発表した。ユーザー情報への影響はないが、旧証明書の失効に伴いmacOSアプリが起動できなくなるため、6月26日までにChatGPT等の最新版へ更新するよう求めている。
Perplexity、自律型エージェント「Computer」の安全設計を公開：VM分離とプロンプト注入対策
Perplexityは自律型AIエージェント「Perplexity Computer」のセキュリティ設計を解説しました。タスクごとに専用Linuxカーネルを持つFirecracker microVMでサンドボックス化し、BrowseSafeなどの4層構造でプロンプトインジェクションを防御。安全なコード実行環境を提供します。
OpenAI、Windows版Codex向け独自サンドボックスの設計を公開
OpenAIはコーディングエージェントCodexのWindows向けサンドボックス設計を公開した。既存ツールでは実用性と安全性の両立が難しかったため、合成SIDや書き込み制限トークンを組み合わせ、管理者権限なしで実行環境を分離した。毎回のコマンド承認や危険な全権付与を回避できる。
トム・ハンクスら支援、AI向け許諾基準「Human Consent Standard」発表
非営利団体RSL MediaはAIによる肖像や作品の利用許諾を設定できるライセンス基準「Human Consent Standard」を発表した。クリエイターは完全許可、条件付き、完全拒否を指定可能。6月には認証レジストリが開設され、robots.txt経由でクローラーに権限を伝達できるようになる。
OpenAIがサイバー防衛構想「Daybreak」発表：10億ドルの利用枠を提供
OpenAIはサイバーセキュリティ構想「Daybreak」を発表した。最先端モデルとCodexエージェントを組み合わせ、脆弱性の発見から検証、パッチ適用までを支援する。オープンソース維持者や重要インフラ向けに10億ドル規模の利用枠支援も提供される。
2BパラメータのオープンソースTTSモデルが登場、数秒の音声で声色やささやき声まで再現
20億パラメータのオープンソース音声合成モデルが公開された。わずか数秒の音声からゼロショットで声色を複製でき、ささやき声や吃音といった細かなニュアンス、他言語での発話にも対応する。サイズは約5GBで民生用GPUで動作し、Apache 2.0で商用利用も可能だ。
Google報告：攻撃者がAIでゼロデイ脆弱性を発見・兵器化
Googleの脅威インテリジェンスグループは、攻撃者がAIを利用してオープンソースツールの2FA回避ゼロデイ脆弱性を発見・兵器化した事例を初確認したと発表した。マルウェアがAIでシステム状態を解釈し自律実行する動きも進んでおり、攻撃前に検知・対処したとしている。