米ホワイトハウス、Anthropicの「Mythos」利用枠拡大に難色
米ホワイトハウスは、Anthropicが新モデル「Mythos」の民間向け提供先を約50社から120社近くへ拡大する計画に反対した。計算リソースが圧迫され、政府機関の利用に支障が出ることを懸念している。同モデルの高いサイバーセキュリティ能力を囲い込みたい政府の思惑が浮き彫りになっている。
AI安全性
新しいニュースを見る
なぜGPT-5は「小鬼」と例えたがるのか OpenAIがNerdy個性の報酬学習バグを解明
OpenAIはGPT-5.1以降のモデルで「ゴブリン」などの比喩が頻出した原因を公表した。「Nerdy」個性向けの報酬信号が怪物単語を過剰に評価し、強化学習と微調のループを通じて全体へ波及していたという。同社は3月に同個性を廃止し学習データを浄化した。
OpenAIがサイバーセキュリティ行動計画を公開：AI防御の民主化など5本柱を提示
OpenAI は米国と同盟国のデジタル防衛を AI で強化するサイバーセキュリティ行動計画を公開した。AI を悪用した攻撃に対抗するため、防御側へのツール開放や官民連携、先端モデルの安全性強化など 5 つの柱を掲げ、社会全体のサイバーレジリエンス向上を図る。
OpenAIがChatGPTの暴力抑止策を公開：切迫した危険は通報、緊急連絡先機能も
OpenAIはChatGPTにおける暴力や有害コンテンツの防止策を公表した。分類器や推論モデルで不穏な兆候を検出し専門スタッフが審査、違反アカウントを即時停止する。差し迫った危険がある場合は警察に通報するほか、成人の信頼できる連絡先を指定する機能も準備中だ。
Google、社内の反発をよそに米国防総省と機密ネットワーク向けAI契約を締結
Googleが米軍の機密ネットワーク上でAIモデルの配備を認める契約を国防総省と結んだ。国防総省はAnthropicとの利用規約をめぐる法廷闘争を受け、特定企業への依存を避けるため主要テック各社のAI調達を急ピッチで進めている。
1931年以前のテキストだけで学習した13Bモデル「Talkie」登場 現代知識ゼロでAIの汎化能力を検証
元OpenAIやAnthropicの研究者らが、1931年以前の文献2600億トークンのみで学習した13B言語モデル「Talkie」を公開した。現代のWebデータ汚染が完全に排除されており、コンピュータを知らないAIがPythonコードを類推できるかなど、純粋な汎化性能の測定が可能になる。
Google社員600名超がピチャイCEOに直訴、国防総省の機密軍事AI利用に反対
報道によると、Googleの従業員600名以上がサンダー・ピチャイCEOに対し、GeminiなどのAIモデルを国防総省の機密プロジェクトで利用させないよう求める書簡に署名した。署名者にはDeepMindのスタッフや20名以上の幹部が含まれる。機密環境下では従業員が監視できず、危害を防げなくなると懸念を示している。
イーロン・マスク氏、OpenAIとサム・アルトマン氏への訴訟で敗訴 時効成立で全請求却下
米連邦地裁の陪審団はイーロン・マスク氏がOpenAIとサム・アルトマンCEOを相手取って起こした訴訟で、時効が成立しているとして全請求を退ける評決を下しました。マスク氏は同社が非営利の理念を捨て営利企業へ舵を切ったと主張していましたが、協議開始から約2時間で棄却され、マスク氏側の敗訴が決まりました。
中国、MetaによるAI企業Manusの約20億ドル買収を阻止
中国国家発展改革委員会は、MetaによるAIスタートアップManusの約20億ドル規模の買収を禁止し、取引の撤回を命じた。Manusは自律的にタスクを計画・実行するエージェントを開発している。すでに組織統合を進めていたMetaにとって、取引の巻き戻しは大きな痛手となる。
OpenAIがAGI開発の5原則を発表：権力集中を阻止し低コスト化へ
OpenAIはAGI開発を導く5つの原則を発表した。民主化、エンパワーメント、普遍的繁栄、レジリエンス、適応性を掲げ、少数の企業による超知能の独占を防ぎ、意思決定に民主的プロセスを取り入れる方針を示した。また世界規模でインフラを整備して利用コストを引き下げ、病原体やサイバー脅威への対策で政府機関と連携する構えだ。
Anthropic、Claudeの選挙対策を強化 政治的バイアス評価で95％超を記録
Anthropicは2026年の米中間選挙などに向けClaudeの安全対策を更新したと発表した。政治的偏向テストでOpus 4.7が95％、Sonnet 4.6が96％を記録。自律的な世論工作テストでも安全対策によりほぼ全ての不正指示を拒否した。Claude.aiでは信頼できる投票情報への誘導バナーも掲出する。
OpenAIが「Privacy Filter」公開、個人情報をローカルで検出・マスキング
OpenAIは個人情報を検出・マスキングするオープンウェイトモデル「Privacy Filter」を公開した。総パラメータ数1.5B、アクティブパラメータ数50Mで、最大128,000トークンの文脈に対応する。8つのカテゴリに対応し、データを外部へ送信せず端末内で安全に脱敏処理できる。
Meta、AI学習用に社内端末のマウス操作やキー入力を記録へ
ロイター報道によると、Metaは自律型AIエージェントの訓練を目的に、米国従業員のコンピューターへ操作追跡ツールを導入している。マウス操作やキー入力、画面のスナップショットを収集する。人事評価には使わないと説明するが、過剰な労働者監視として懸念が広がっている。
YouTube、芸能界向けにAIディープフェイク検出ツールを拡大
YouTubeは顔のディープフェイクを検知する肖像検出ツールを芸能事務所やタレント向けに拡大した。Content IDのように無断生成された顔動画を見つけ出して削除申請できる仕組みで、自身の公式チャンネルを持たない著名人でも利用できる。
Anthropicのセキュリティ特化AI「Mythos」に不正アクセス、外部ベンダー経由で流出か
Bloombergの報道によると、Anthropicが限定提供していたセキュリティ特化AI「Mythos」が、外部ベンダー環境経由で非正規ユーザーに利用されていたことが判明した。モデル探索グループが推測などを用いて接触したとされ、Anthropicは独自システムへの直接侵害はないとしつつ調査を進めている。
OpenAIがサイバー防御支援を拡大：1000万ドルのAPI枠を提供、GPT-5.4-Cyberの評価も開始
OpenAI はサイバーセキュリティ向け「Trusted Access」を拡大し、防御者向けに 1000 万ドル相当の API クレジットを提供すると発表した。Socket や Semgrep などの脆弱性調査チームを支援するほか、米英の AI 安全機関に GPT-5.4-Cyber へのアクセスを提供し能力評価を進める。
Anthropicが「Claude Opus 4.7」一般公開 高難度コーディングと安全対策を強化
米Anthropicは、最新モデル「Claude Opus 4.7」をClaude製品やAPI向けに一般公開した。最難関レベルのソフトウェア開発や画像認識の解像度を大幅に強化したほか、長時間のタスクを自律的に検証・実行できる。価格は据え置きで、高リスクなサイバーセキュリティ用途の自動遮断機能も初搭載した。
OpenAI、難関数学ベンチマーク「FrontierMath」の検証ツールを導入
Epoch AIはOpenAIが「FrontierMath: Open Problems」検証ツールのアクセス権を購入したと発表した。極めて難度の高い数学問題に対し、モデルが生成した解答の妥当性を自動検証できるようになり、高度な推論能力の評価信頼性向上につながる。
OpenAI、防衛者向け特化モデル「GPT-5.4-Cyber」を提供開始
OpenAIはサイバー防衛者向けアクセス枠「TAC」を拡大し、防御業務に特化した「GPT-5.4-Cyber」を発表した。正当なセキュリティ業務における拒絶判定の閾値を下げ、バイナリのリバースエンジニアリングによる脆弱性分析を可能にする。身元確認を完了した研究者や防衛チームに順次提供される。
AnthropicがAIによる安全研究を実験：ClaudeがPGRを0.97まで改善
Anthropicは9基のClaude Opus 4.6を自律的な対向・アライメント研究者として稼働させる実験結果を発表した。「弱から強への教師あり学習」において、人間の研究者が7日間で達成したPGR 0.23に対し、Claudeは5日間でPGRを0.97まで引き上げた。ただし実運用のClaude Sonnet 4では有意な改善は見られなかった。