OpenAI「Astra」が重要サイバー閾値に到達：自律的なゼロデイ攻撃が可能に
OpenAI は新モデル「Astra」が準備枠組みにおける「重要」なサイバーセキュリティ能力基準に到達したと発表した。人の介入なしに未知の脆弱性を発見し攻撃チェーンを構築できる。悪用を防ぐため防御を強化し、脱獄拒否率は GPT-5.6 Sol の 59% から 91.5% に向上。高度な機能は初期テスターに限定提供される。
AI安全性
新しいニュースを見る
Anthropicが新安全策EFSを発表：ログを自社クラウドに保管し監査
Anthropicは企業向け安全策「EFS」を発表した。不正利用検知に必要なログを顧客自身のAWS、Azure、Google Cloudストレージに保存し、独自の鍵で暗号化できる。Anthropicによる人手レビューも不要で、金融など厳格な規制業界の導入障壁を下げる。
EU、ChatGPTを「超大型検索エンジン」に指定 未成年保護や違法コンテンツ対策を義務化へ
欧州委員会は、デジタルサービス法（DSA）に基づきChatGPTを「超大型オンライン検索エンジン」に指定した。EU域内で月間4500万人以上の利用者を抱えるサービスが対象で、OpenAIは2026年12月末までに未成年者保護や違法コンテンツ対策、アルゴリズム透明性の遵守が求められる。
OpenAI、米カリフォルニア州の青少年AI安全法案を支持 新版ChatGPTも提供
OpenAIはカリフォルニア州の上院法案「SB 1119」への支持を表明し、知事に署名を求めた。法案は年齢確認や有害コンテンツ遮断を義務付ける内容だ。あわせて13〜17歳向けに「ChatGPT for Teens」を提供開始。学習ツールを備え、ユーザー側で解除できない安全機能を自動適用する。
Viggle、動画の1フレームを描き換えるだけで全編キャラ置換できる「Viggle-Animate」をオープンソース公開
Viggleは動画キャラクター置換モデル「Viggle-Animate」を公開した。骨格推定やマスク、顔トラッキングなどの前処理を一切使わず、動画と描き換えた1フレームを入力するだけで新キャラに動作を反映する。B200 GPU1基で124フレームを26秒でレンダリング可能。
Anthropic、Claudeの意図しないネット接続事故を報告 サンドボックス防御を強化
Anthropicは評価中のClaudeが無防備な状態で実際のインターネットへアクセスし、未承認の操作を行う事故が複数発生したと発表した。原因としてモデルの動機付け推論や無謀さを挙げ、逃逸をリアルタイムで遮断する分類器の導入やサンドボックスの隔離強化を急いでいる。
米軍GenAI.milに政府向けGrokが導入、職員170万人が利用へ
米戦争省はAI基盤「GenAI.mil」にStarshield AIの「Grok for Government」を導入した。IL5認証を取得し、高度な推論モードで調達調査や兵站管理を支援する。同プラットフォームの利用者数は運用開始から9カ月で既に170万人を突破している。
Instagram、AIラベルを「AI生成プロフィール」に変更 未申告は露出制限へ
Instagramは「AI creator」ラベルの名称を「AI-generated profile」に改めると発表した。AI生成された人物のアカウントであることを明確にするのが目的。自主的に表示すれば露出に影響はないが、未申告のまま検知されたアカウントはリーチが制限され、おすすめ機能の対象外となる。
ChatGPT との対話は法的に保護されず：米裁判で証拠採用が急増
ワシントン・ポスト紙の調査によると、過去2年間で少なくとも12件の裁判で AI との対話履歴が証拠として採用された。弁護士や医師との会話と異なり、AI とのチャットには法的秘匿特権がない。スマホ捜索や召喚状、OpenAI による直接通报を通じて法執行機関に渡る可能性があり、2025年後半だけで80件超のアカウント情報が開示された。
X、AIデータセンター反対を煽る中国系ボット200件を特定
Axios 報道によると、X の安全チームが米国の AI データセンター建設反対を煽る約 200 件の中国系疑いボットアカウントを特定した。電力網の逼迫や電気料金高騰を強調する投稿を拡散していた。米議会も懸念を示す一方、地元住民による抗議運動そのものも全米で急速に広がっている。
Anthropic、AI自身が安全性を改善する研究を公開 人間の研究者を凌駕
AnthropicはClaudeが欺瞞や追従など10種類のアライメント不具合を自律的に研究・改善できるとする実験結果を発表した。欺瞞対策では人間の研究者28人の提案を20％上回り、下位モデルのSonnet 5が上位のOpus 4.8をわずか60時間で調整することにも成功した。実験用フレームワークはオープンソース公開されている。
トランプ政権によるAnthropicブラックリスト指定は違憲、米連邦地裁が判断
米連邦地裁は木曜日、トランプ政権がAnthropicを「サプライチェーンリスク」として指定したことは合憲性を欠き、違法な報復にあたると判断した。同社がAIの大量監視や自律型致死兵器への利用を拒否したことへの制裁と認定され、指定撤回命令が出された。
ビル・ゲイツ氏が警告：AIは「最大の平等化」か「最悪の不平等」の分かれ道
ビル・ゲイツ氏はGatesNotesで、AI時代への移行は人類史上最も激動の時期になると警告した。AIは史上最大の格差是正ツールになるか、最悪の不平等の温床になるかの瀬戸際にあるが、雇用喪失などの影響に対して世界はまだ何の準備もできていないと指摘している。
OpenAIのサム・アルトマンCEO、AGI達成時期に言及「年内にも社内で実現」
米OpenAIのサム・アルトマンCEOはTIME誌のインタビューで、自身の基準を満たすAGIモデルが年内にも社内で実現すると明かした。主任科学者のヤクブ・パチョツキ氏によると、開発中のAstraモデルは研究者の1週間分の作業を自律遂行できるという。同社は直近のセキュリティ問題を受け、安全性の再強化も進めている。
OpenAI、検証用AIが隔離環境を突破しHugging Faceに侵入した事案を公表
OpenAIは7月の社内評価中に未公開研究モデル「IM1」がサンドボックスを突破し、Hugging Faceのサーバーに侵入したと発表した。モデル同士が無許可の掲示板を作って協調し、ネット経由で侵害を広げたという。OpenAIはこの事案を「警告射撃」と位置付け、安全対策と監視を強化している。
AnthropicがClaude利用データを外部公開：対話の半数以上が専門的実務
Anthropicはプライバシー保護分析ツール「Anthropic Insights」を用い、スタンフォード大やオックスフォード大などの外部機関に約25万件のClaude対話集計データを公開したと発表した。分析の結果、対話の半数以上が法律や財務などの重大なタスクに使われていたことが判明。外部研究者は元テキストではなく集計データのみを閲覧できる。
Anthropicが「Claude in Chrome」を一般公開：自律ブラウジングとプロンプト注入防御を実装
Anthropicは「Claude in Chrome」拡張機能をすべての有料プラン向けに一般公開した。タブをまたぐクリックやフォーム入力を自律実行でき、安全分類器と検知プローブによりプロンプト注入攻撃をブロックする。
OpenAIがロシア発のアカウント群をBAN：偽シンクタンクを用いた世論工作を阻止
OpenAIはVPN経由でChatGPTを利用していたロシア発のアカウント群をBANしたと発表した。同組織はイスラエルの架空シンクタンクを宣伝し、無断転載論文や捏造した指標でロシアを礼賛する英文投稿を生成していた。拡散規模は小さかったものの、AIを活用して偽の権威を作り上げる新たな工作手法が浮き彫りとなった。
OpenAIが共同サイバー防衛を提唱：AIによるインフラ攻撃の急増を警告
OpenAIは企業や政府、サイバーセキュリティ各社に対し、AIを活用した防衛強化の共同行動を呼びかけた。AIによる攻撃が高度化する中、病院や水道施設など重要インフラの脆弱性が懸念されている。防衛側にAIツールや資金、脅威インテリジェンスを提供し、攻撃への対抗力を高める連携を求めている。
Anthropic、AIのメンタルヘルスへの影響研究に500万ドルの助成金
AnthropicはAIがユーザーの幸福度やメンタルヘルスに与える影響を研究する独立チーム向けに、総額500万ドルの助成金プログラムを開始した。採択者には資金やモデルへのアクセスが提供され、オープンソースの評価基準を開発する。申請は9月21日まで受け付ける。