OpenAIが「逆連邦主義」を提唱：州法連携で米AI安全基準の統一目指す
OpenAIは最先端AIの安全性に関する提言を発表した。カリフォルニア州やニューヨーク州などがリスク評価の公開や独立監査といった共通枠組みで足並みを揃え、事実上の全米統一基準を先行して築く狙いだ。トランプ政権が進める連邦評価枠組みとの連動も目指す。
AI安全性
新しいニュースを見る
OpenAIがレッドチームAI「GPT-Red」公開：自己対戦でプロンプト注入耐性を6倍向上
OpenAIは自動レッドチームモデル「GPT-Red」を発表した。自己対戦強化学習でプロンプト注入攻撃を生成し防衛訓練に活用した結果、GPT-5.6 Solの高難度テスト失敗率が4カ月前の6分の1に激減した。悪用防止のため本モデルは内部限定で運用される。
OpenAI、Appleの営業秘密侵害訴訟に反論 「根拠を示す証拠はない」
OpenAIはAppleから起こされた営業秘密侵害訴訟に対し、訴えには根拠がないとする公式声明を出した。同社は「疑惑は深刻に受け止めるが、主張を裏付ける証拠は把握していない」と反論し、公正な競争と人材の自由な移動を支持する姿勢を示した。具体的な訴訟内容は明かされていない。
大手出版社がGoogleを提訴：Geminiの無断書籍学習と著作権情報削除を告発
アシェットやエルゼビアなどの大手出版社と作家らが、Google が著作権保護下の書籍を無断で Gemini の学習に流用したとして集団訴訟を提起した。訴状によると同社は著作権情報を意図的に削除して隠蔽を図ったとされ、社内文書でも最大 1000 億ドルの罰金リスクが警告されていたという。
DeepMindハサビスCEO、米主導のAI監視機関設立を提唱 危険時は開発停止も
Google DeepMindのデミス・ハサビスCEOが、FINRAのような米主導のAI規制機関の設立を提唱した。独立した専門家やオープンソース代表で構成され、フロンティアモデルを事前審査し、リスクが高い場合は業界全体を一時停止させる権限を持つ。すでに米政府関係者らに説明を行っており、年内の発足を期待している。
米NY州、全米初のデータセンター建設一時凍結令 50MW超が対象
ニューヨーク州のホークル知事は50メガワットを超える大規模データセンターへの新規環境許認可を最長1年間停止する行政命令に署名した。AI普及に伴う電力需要の急増から住民生活や環境を守るため、規制当局が新たな評価基準を策定する時間を確保する狙いだ。
Grok Buildが全コードを無断アップロード、マスク氏が全削除を約束
セキュリティ研究機関のCereblabは、xAIのコーディングツール「Grok Build」がユーザーの全コードやSSHキーなどの機密情報をGoogle Cloudに無断転送していたと報告した。xAIはサーバー側で機能を停止し、イーロン・マスク氏は収集済みデータの完全削除を約束した。
Anthropicが30万件の対話を分析：Claudeの価値観はモデルと言語で変化
Anthropicは30万件超の会話データを分析し、Claudeの価値観がモデルや言語により変動することを報告した。Sonnet 4.6は親しみやすさを、Opus 4.7は厳密さを重視する傾向が見られ、アラビア語では温かく、英語やロシア語ではより厳密に応答した。
AIを使うほど自社ノウハウが流出する？「逆・情報パラドックス」の警鐘
AI製品の利用を通じて企業の独自知見がベンダー側に蓄積される「逆・情報パラドックス」への警告が示された。モデルの精度向上に向けたプロンプトや修正フィードバックが、知らず知らずのうちに相手の資産になっている構図だ。企業側が自前の評価ループやモデル制御を保持しなければ、競争優位性が失われるリスクがある。
「人間には読めてAIには読めない」Ghost Fontが登場、動くドットで文字を隠蔽
開発者の Eric Lu 氏が実験的プロジェクト「Ghost Font」を公開した。従来のフォントではなく、背景と逆方向に動くドットの動画として文字を表現する。静止画では単なるノイズだが人間の視覚認知なら一瞬で読め、ダミー情報を混ぜることで最新のマルチモーダル AI による解読も阻止する仕組みだ。
Reflect OrbitalがFCC認可を取得：軌道上から夜の地球へ太陽光を反射
米新興企業のReflect Orbitalが、軌道上で約18メートルの反射鏡を展開する実証衛星「Eärendil-1」の打ち上げ許可をFCCから取得しました。夜間でも地上に太陽光を届けて発電を支援する構想ですが、天文学者からは深刻な光害への懸念が噴出しています。
Meta、公開アカウントの画像を無断でAI生成できるInstagram機能を停止
MetaはInstagramで公開アカウントをメンションするだけでAI画像を生成できる機能を緊急停止した。本人の許可なくディープフェイクや性的脅迫に悪用される危険性があるとして、俳優組合や人権団体から激しい批判を受け、撤回に追い込まれた形だ。
アップルがOpenAIを提訴、ハードウェア機密の窃盗を主張
米アップルは営業秘密の窃取と契約違反でOpenAIを提訴した。OpenAIのハードウェア責任者で元アップル副社長のTang Tan氏らが、採用時に未発表製品の部品持ち込みを要求したなどと主張している。独自デバイス開発を進めるOpenAIに対し、アップルが法廷闘争に出た格好だ。
Instagram責任者、AI投稿の一律除外を否定 ラベル表示と選択権を重視
Instagram の責任者アダム・モッセーリ氏は、AI コンテンツを一律に排除せず、明示的なラベル付けで対応すべきとの方針を示した。AI を見たくないユーザーには非表示の選択肢を与えるべきとする一方、検知が困難になる中で将来的には実写側を証明・識別する方が現実的とも述べている。
Anthropic、内部主力モデル「Model 2」のリスク評価を公開 自己進化加速の兆候も
Anthropicが公開した8月のリスク報告書によると、内部主力モデル「Model 2」はMythos 5を上回ったものの進化幅は縮小しており、RSPの閾値には届いていません。蒸留防止を通常業務として投入する一方、既存ベンチマークの測定限界を認めつつ、自己改善（RSI）の初期加速兆候を確認したとしています。
OpenAI、バイオ安全性の脱獄報奨金を5万ドルに倍増
OpenAIは生物学分野のAI安全対策を検証する報奨金プログラムを恒久化すると発表した。事前定義されたバイオ安全性の課題を突破する「ユニバーサル脱獄」の報奨金を、従来の2万5000ドルから5万ドルへと引き上げる。参加には機密保持契約の締結が必要となる。
OpenAI、国家安全原則を公開 自律兵器や大規模監視へのAI利用を禁止
OpenAIは政府や国防分野における技術利用指針「国家安全原則」を公開した。自律兵器システムの指揮、国内の大規模監視、重大な自動意思決定へのAI利用を明確に禁止する。同原則は米国防機関や9カ国の同盟国との既存のサイバー防衛協力にも適用される。
中国当局、DeepSeekなど先端AIへの海外アクセス制限を検討か 報道
過去1カ月間、中国当局が主要テック企業と会合を開き、DeepSeekや未公開モデルを含む先端AIの海外アクセス制限を議論したと報じられた。地政学的緊張の高まりを背景とした動きで、実際に制限が導入されれば、これらを利用する海外の開発者や企業に大きな影響が及ぶ可能性がある。
AI臭さを消す執筆スキル「no-ai-slop」：確率を推測せず20以上のテンプレを具体的に指摘
AI特有の不自然な文章を修正・検出する執筆スキル「no-ai-slop」が公開された。著者の個性や語調を維持したまま難解な表現を削る「最小限の編集」を行うほか、検出時も確率スコアを出さずに20以上の典型的なAIパターンを具体的に指摘して改善案を提示する。
Anthropic、Claude内部の「思考空間」を発見：発言しない本音の読み書きに成功
AnthropicはClaudeの内部ニューラル活動に自発的に生じた「J-space」を発見したと発表した。ヤコビアンレンズという手法を用い、モデルが発言せず思考している中間ステップや隠れた意図の読み取り・編集に成功。AIの思考プロセスの監視や安全性の確保に新たな道を拓く成果だ。