Railwayに不正アクセス、環境変数が流出か AI推論サービス狙った攻撃の疑い
クラウドプラットフォームのRailwayは顧客の環境変数を保存するシステムへの不正アクセスを検知したと発表した。APIキーやデータベースの認証情報が復号・閲覧された恐れがある。同社はAI推論プロバイダーを標的とした一連の攻撃の一環とみており、全デプロイを一時停止し、ユーザーに秘密情報の更新を求めている。
AI安全性
新しいニュースを見る
Google DeepMindがDetectorScope公開：AI判定の根拠と該当箇所を可視化
Google DeepMind は AI テキスト検出ツール「DetectorScope」をオープンソースで公開した。従来のブラックボックスなスコア提示とは異なり、判定理由を自然言語で説明し、根拠となったテキスト箇所を直接ハイライト表示できる。
OpenAIが「Patch the Planet」始動：GPT-5.6でPHPの深刻な脆弱性を発見・修正へ
OpenAIは新イニシアチブ「Patch the Planet」を発表した。GPT-5.6 Solを用いてPHPの深刻な脆弱性を悪用前に検出し、WizやCloudflare、各国政府機関と連携して修正と防御策を講じたという。あわせてCodex向け検出ツールの提供と、防御側支援に向けた10億ドル規模のモデルアクセス補助も打ち出している。
AnthropicがClaude Securityを刷新：コード変更の常時監視と自動クローズに対応
Anthropicはエンタープライズ向け「Claude Security」に継続的リポジトリ監視、修正の自動追跡、APIとMCP連携を追加しました。複数リポジトリ間の脆弱性を検知し、組織固有の脅威モデルを参照して重要度を判断します。企業向けに月2.5万ドルの無料枠も2カ月間提供されます。
OpenAI、ChatGPTに「チャットのロック」機能を追加 PINやFace IDで保護
OpenAIはChatGPTに「チャットのロック」機能を導入したと発表した。4桁のPINコードやFace IDなどで保護でき、通常の履歴や検索から隔離されるほか、独自のメモリ領域を持つ。端末を他人に渡す際のプライバシー保護に役立つが、エンドツーエンド暗号化ではない点には注意が必要だ。
Zoom、企業のAI管理ツール発表 ディープフェイク検知やAIガードレールを導入
Zoomは年次イベント「Zoomtopia」にて、企業向けAIガバナンス機能を発表した。AIエージェントの一元管理や、機密情報の出力を防ぐカスタムガードレール、会議中の合成音声をリアルタイムで判定するディープフェイク検知機能を提供する。社内AIの暴走やなりすましリスクを防ぎ、安全なAI活用を後押しする狙いだ。
Hugging Face CEO、NetflixのAIサイバー攻撃ドキュメンタリーを批判
Hugging FaceのClément Delangue CEOは、OpenAIによるサイバー攻撃を扱ったNetflixのドキュメンタリーを過度な誇張と批判した。同氏はエージェントを技術として説明したものの反映されず、閉鎖型モデルによる防御の妨害やオープンモデルによる防衛といった重要事実が省かれたと指摘している。
Meta、AIエージェント「Muse」の共有機能を緊急停止 DNS経由で非公開チャット流出
米 Meta は汎用 AI エージェント「Muse」の会話共有機能を一時停止した。セキュリティ企業 Claroc の調査で、サブドメインの設計不備によりパッシブ DNS 検索だけで 6800 件の共有リンクが特定可能だったと判明。社外秘の売上データやローン申請など機密情報が閲覧できる状態だった。ザッカーバーグ CEO が先月「プライバシー重視」を謳った矢先の失態となった。
Spotify、AI生成スパム曲5000万件をレコメンドから排除
Spotifyは今年レコメンド機能から5000万曲以上のAIスパム楽曲を除外し、悪質な規約違反音源を大規模に削除したと発表した。あわせてAI利用クレジットの明記や人間のアーティスト認証バッジも導入。大量生成された低品質コンテンツを排除し、人間の創作環境を守る狙いがある。
NY市長、連邦政府のAI規制放棄を批判 学校禁止や住宅画像明記など独自規制を推進
ニューヨーク市のゾーラン・マムダニ市長は、連邦政府がAI規制を完全に放棄していると批判しました。市はすでに小中学校でのAI利用禁止や、不動産広告におけるAI生成画像の明示義務化を導入しており、技術の無制限な普及を当然視せず企業責任を追及すべきだと訴えています。
Meta、物議を醸したAI学習向けクローリング規約を削除
Metaは規約からニュースサイトなどのコンテンツをAI学習用にスクレイピングできると解釈されていた文言を削除した。専門家からrobots.txtを無視して学習に利用される懸念が指摘されていた。Meta側は広告・ビジネス製品向けの規約整理にすぎず、クローラーの方針に変更はないと釈明している。
米大手サイトがAIエージェントを相次ぎ遮断：デルタ航空やJPモルガンなど
The Verge報道によると、デルタ航空やJPモルガン、Yelpなどの主要企業が、MetaやOpenAI、GoogleのAIエージェントによるアクセスを相次ぎブロックしている。ユーザーの代わりにチケット購入や口座確認を行う自律型AIだが、セキュリティ懸念やデータ有料化、既存のボット対策に阻まれる事態となっている。
Claude、25年の暗号ミステリーを解明 NIST曲線の出所を特定
Anthropic の Claude が、25 年間にわたり謎とされてきた NIST の ECDSA 楕円曲線シードの生成元を特定した。噂されていた合言葉のハッシュではなく、1997 年から 1998 年の Unix タイムスタンプを用いた C 言語の lrand48 乱数生成器の出力だったと判明。意図的なバックドアが存在しないことが確認された。
Anthropic調査で判明した認識の溝：社員の91%が2030年までにAIがノーベル賞級の発見をすると予想
Anthropicは自社従業員と米国一般市民を対象とした意識調査を発表しました。2030年までにAIがノーベル賞級の科学的発見を達成すると予想した社員は91%に達した一方、一般市民では39%にとどまりました。最先端の開発現場と社会一般の間に、技術革新のスピードに対する大きな温度差がある実態が浮き彫りになっています。
Google、「かこって検索」で詐欺メッセージの検出に対応
Google は、Android の「かこって検索（Circle to Search）」で不審なテキストメッセージの詐欺を判定できる機能を追加した。ホームボタンなどを長押ししてメッセージを囲むと、AI がリスクや対処法を提示する。不審なリンクを開く前に危険を察知し、削除や着信拒否を判断できる。
Anthropic、外部監査チームに「社員並み」の内部アクセス権を付与
AnthropicはAI安全性評価の非営利団体METRのスタッフ6名に対し、社内ツールやオフィスへの「社員並み」アクセス権を付与したと発表した。評価結果はAnthropicの拒否権なしで独自に公開される。銀行の駐在検査官のような仕組みで、最先端AIの安全性監視の透明性を高める狙いだ。
OpenAI、元社員によるAppleへの機密漏えいを告発 未発表ハード情報など100件以上
OpenAIは、元社員がAppleへ移籍する直前に100件超の機密ファイルを持ち出し、Apple幹部に提示したとして法的文書を提出した。未発表ハードウェアの画像やサプライヤー情報が含まれており、OpenAIはAppleの新作スマートディスプレイ「HomeView」に情報が流用されたと主張している。
AnthropicがClaudeの選挙対策を強化：中立性99%を達成、開票速報も提供へ
Anthropicは2026年米中間選挙に向けたClaudeの安全対策を発表した。Claude 5.5シリーズは政治的中立性テストで99%を記録。Democracy Worksと提携し、州別の投票案内や投開票速報を会話内で直接提供するほか、外国勢力による偽ニュース生成アカウントの凍結も公表した。
Anthropic、シンガポールに新拠点を開設 政府とAI安全覚書を締結
Anthropicはアジア太平洋地域で5拠点目となるオフィスをシンガポールに開設し、同国デジタル発展・情報省とAI安全に関する覚書を締結した。モデル評価や検証基準で協力する。シンガポールは人口比のClaude利用率で世界2位を記録しており、GovTechやDBS銀行、Grabなどが本格導入を進めている。
Google DeepMind、詐欺対策の端末内蔵型Gemmaを発表 シンガポール政府と連携
Google DeepMindはシンガポール政府機関と連携し、会話型詐欺を端末内で検知する微調整版Gemmaモデルを開発した。2段階の処理で多層的なやり取りをローカル解析し、データをクラウドに送らずリアルタイムで警告を発する。プライバシー保護とソーシャルエンジニアリング対策の両立を目指す。