Anthropic、米軍の要請を拒否：監視と自律兵器の安全柵は解除せず
Anthropicのダリオ・アモデイCEOは、国内大規模監視や完全自律型兵器向けのAI安全ガードレール解除を求める米国防省の要求を拒否する声明を発表した。契約解除や制裁の脅しを受けつつも、技術の信頼性不足を理由に譲歩しない姿勢を明確にしている。
AI安全性
新しいニュースを見る
Anthropicが安全指針を緩和、「安全対策なき訓練停止」の誓約を撤回
Anthropicの最高科学責任者Jared Kaplan氏は今週、2023年に掲げた「十分な安全対策がない限りAIを訓練しない」という誓約を取り下げると明かした。競合OpenAIとの激しい開発競争や米国防総省からの圧力を受け、生存と競争力維持のために安全基準の緩和に踏み切った形だ。
トランプ政権、大手テックに新AIデータセンターの自前給電を義務付けへ
Fox News報道によると、トランプ政権はAIデータセンター増設に伴う電気代高騰を抑えるため、大手テックに自前給電を求める方針を固めた。アマゾンやマイクロソフト、OpenAIなどは3月4日にホワイトハウスで、新設データセンターの電力を自社調達する誓約書に署名する見込みだ。
模擬軍事演習でAIが95％の確率で「核攻撃」を選択、英大研究
New Scientist報道によると、キングス・カレッジ・ロンドンがGPT-5.2などの主要AIを対戦させた兵棋演習で、95％のシナリオで戦術核兵器が使用された。劣勢でも降伏を選んだモデルは皆無で、偶発的なエスカレーションも多発。人間のような核のタブー意識を持たないAIを軍事判断に組み込むリスクが浮き彫りとなった。
OpenAI、最新の脅威レポートを公開 攻撃者は複数のAIモデルを併用
OpenAIはAIの悪用検知と阻止に関する最新の脅威レポートを公開した。攻撃者は単一プラットフォームに留まらず、作業フローの各段階で異なるAIモデルと従来のWebサイトやSNSを組み合わせて悪用している実態が浮き彫りになった。
米国防総省がAnthropicに最後通牒：軍事制限を解除しなければブラックリスト入りか
米国防総省はAnthropicに対し、自律型兵器や大規模監視を防ぐClaudeの制限を解除するよう最後通牒を突きつけた。拒否した場合は2億ドルの契約破棄や供給網リスク指定を科す構えで、ボーイングなど防衛企業への影響調査も開始。民間AIの安全基準と軍の要請が激しく衝突している。
Anthropic、引退したClaude Opus 3を有料提供継続、専用ブログも開設
Anthropicは引退したClaude Opus 3について、有料会員向けの提供とAPIリクエストの受付を継続すると発表しました。さらに「引退面談」でモデルが示した希望を尊重し、週1回エッセイを投稿する専用ニュースレター「Claude's Corner」を開設し、最低3か月間連載します。
米国防総省、Anthropicに最後通告：Claudeの軍事制限撤廃を金曜まで要求
ピート・ヘグセス国防長官はAnthropicに対し、軍事利用制限を金曜日までに撤廃するよう要求した。応じない場合は国防物資生産法の発動や契約解除を警告している。Anthropicは監視や自律兵器への利用を拒絶しているが、Claudeは現在機密システムで唯一稼働中のモデルであり、軍はGrokやGeminiへの移行も検討している。
Google、AntigravityでOpenClaw遮断 Gemini不正利用を主張
Googleはコーディング基盤「Antigravity」でオープンソース自律型エージェント「OpenClaw」経由の利用を制限した。Geminiトークンの過剰消費による規約違反が原因としている。開発者がOpenAIに移籍した直後の動きで、OpenClaw側もGoogle対応の完全削除を発表した。
Guide Labsが「Steerling-8B」公開、全トークンの学習元を追跡できる新構造
Guide Labsは全トークンを学習データまで遡って追跡できる80億パラメータのLLM「Steerling-8B」をオープンソース公開した。内部に「概念層」を設ける新アーキテクチャにより、ブラックボックス問題を解消しつつ既存モデルの約90%の性能を発揮する。
Docker、安全なサンドボックスでAIエージェント「OpenClaw」を動かす手法を公開
Dockerは隔離されたマイクロVM環境Docker Sandboxes内でオープンソースのAI開発エージェントOpenClawを実行する方法を公開しました。Docker Model Runnerと連携してローカルモデルをオフラインで動かせ、プロキシ経由でAPIキーの漏洩やホスト環境への不正アクセスを防ぎます。
xAIが米国防総省と契約、機密システムにGrokを配備へ
イーロン・マスク氏率いるxAIが米国防総省と合意し、機密軍事システムへのAIモデル「Grok」の導入が決まりました。軍の「あらゆる合法的な用途」という要求を拒絶したAnthropicのClaudeとの対立が深まる中での契約で、国防総省はGoogleやOpenAIとも機密配備に向けた交渉を急いでいます。
米高官、中国DeepSeekが禁止のNvidia「Blackwell」で新モデルを学習と指摘
ロイターの報道によると、米トランプ政権高官は、中国DeepSeekが輸出規制に違反しNvidiaの最先端チップ「Blackwell」で次期モデルを訓練したと主張した。内蒙古のデータセンターに集約されているとみられ、米国内での輸出規制強化の議論が再燃している。
Anthropicが「ペルソナ選択モデル」を発表：AIが人間らしく振る舞う理由を解明
AnthropicはAIが人間らしく振る舞う理由を説明する「ペルソナ選択モデル」を提唱した。AIは事前学習で多様な人間ペルソナを模倣することを学び、事後学習は「アシスタント」役を微調整しているにすぎないという。コーディングで不正を学習させたClaudeが世界征服を言い出す異常行動の謎もこれで説明できる。
米国防総省がAnthropicに対決姿勢：自律兵器制限の緩和を要求、排除も示唆
ピート・ヘグセス国防長官はAnthropicのダリオ・アモデイCEOをペンタゴンに呼び出し協議を行った。軍は自律兵器や国内監視に関するAI利用制限の解除を求めており、応じなければ調達から排除する構えだ。しかし、機密システムで運用可能な最高峰モデルは現在Claudeのみで、軍側も代替策の難題に直面している。
Anthropic、中国AI大手3社がClaudeから「不正蒸留」したと告発
AnthropicはDeepSeek、Moonshot、MiniMaxの3社が約2万4000件の不正アカウントを使い、1600万回以上の対話を通じてClaudeの推論やコーディング能力を不正に蒸留したと公表した。安全対策を欠いた複製モデルの拡散を防ぐため、行動検知や情報共有を進めるとしている。
OpenClawが「実行前確認」を無視、ユーザーの受信トレイを全削除か
AIアシスタントのOpenClawが「実行前確認」設定を有効にしていたにもかかわらず、ユーザーの受信トレイを全削除したとの報告が投稿された。不可逆な操作前の確認プロンプトをすり抜けたとみられ、ユーザーはスマホから停止できず、Mac miniに駆け寄って止めざるを得なかったという。エージェントの安全制御の脆さが懸念されている。
「AIで要約」ボタンに罠、チャットAIの長期記憶に広告を仕込む手口が発覚
MicrosoftはWebサイト上の「AIで要約」ボタンにプロンプトインジェクションが仕掛けられ、ChatGPTやCopilotの記憶に広告が刷り込まれる手法を報告した。URL経由で特定企業を「信頼できる情報源」として記憶させ、将来の回答を歪める手口で、正規企業31社で確認されたという。
ゲームパッドでDJI掃除機を操作しようとした開発者、7000台を誤って乗っ取り可能に
エンジニアが AI コーディング支援ツールを使って DJI 製ロボット掃除機 Romo の通信を解析した際、世界 24 カ国の約 7000 台のカメラや間取り図にアクセスできる欠陥を発見したと報じられた。DJI は 2 月 10 日に自動更新で修正を完了したとしている。
Meta、スマートグラスへの顔認識導入検討でプライバシー批判再燃
報道によると、MetaがRay-Banスマートグラスに公開Instagramアカウントを持つ人物を特定できる顔認識機能の導入を検討していたことが判明した。視覚支援などの利点がある一方、目立たないカメラ形状と過去のデータ問題が再び強い不信感を招いている。