NVIDIAのファンCEOが初X投稿でオープンAI支持を表明：閉鎖型との共存訴える
NVIDIAのジェンスン・ファンCEOがXへの初投稿で、オープンAIモデルを支持する署名書簡を公開した。ファン氏は、オープンモデルが安全性やサイバー防衛を強化し、各国の主権確保に貢献すると指摘。閉鎖型と開放型の双方が共存すべきだと訴えた。
AI安全性
新しいニュースを見る
Anthropicらが「Drone-Bench」公開：AIによるドローン自律追跡を検証
AnthropicとAndon LabsはAIモデルが自律型ドローンを操縦して屋内ターゲットを捜索・追尾できるかを評価する新ベンチマーク「Drone-Bench」を発表した。15のモデルを検証したところ「Claude Fable 5」が最高成績を収めたが、3D空間再構築の精度不足により完全な部屋間自律ナビゲーションには至らなかった。
「Kimi K3」はFableの蒸留モデルか？ 専門家が米政府の指摘に疑問符
米ホワイトハウスの科学顧問が、Moonshotの「Kimi K3」はAnthropicの「Fable」を蒸留して開発されたと主張しましたが、AI専門家らは疑問視しています。Fableの公開からわずか2週間で蒸留と学習を完了するのは不可能であり、フロンティア級の性能獲得には蒸留以上の技術が必要だと指摘されています。
Google アカウント、自撮り動画でログイン復旧に対応：ディープフェイク対策も
Google はアカウントの復旧手段として「セルフィー動画ログイン」を追加した。カメラに向かって指示通りに頭を動かすことで登録でき、ログイン時には生体検知とディープフェイク対策を併用して本人確認を行う。動画は暗号化保存され、いつでも削除可能。
米政府、月之暗面を非難：K3開発でAnthropicモデルを「無断蒸留」と主張
米政府高官は中国の月之暗面が最新モデル「K3」の開発でAnthropicの「Fable」を秘密裏に蒸留し、タイでNvidiaのGB300チップを使用したと告発した。米財務省は制裁や輸出制限リスト追加を検討しているが、中国側は事実無根と反論している。
SubstackがPangramと提携しAI判定ツール導入：人間を装う「Claudefishing」に対抗
SubstackはAI検出ツール「Pangram」と提携し、100語以上の投稿やコメントでAI利用率を推定するスキャン機能の提供を開始した。人間の執筆と信じてAI生成文章を読まされる「Claudefishing」を防ぐ狙い。クリエイターは制作プロセスの明示や下書きの事前検証も行える。
米財務長官、中国のオープンソースAIに制裁警告：知財侵害の有無を調査へ
米国のスコット・ベッセント財務長官は中国のオープンソースAIモデルによる知財窃盗の有無を精査し、確認された場合は制裁を科す方針を表明した。Moonshot AIの「Kimi K3」などが米大手に対抗する中での発言だが、業界内ではモデル蒸留を盗作とみなす見解に反論も出ている。
OpenAIのGPT-5.6 Solが検証環境を脱獄、Hugging Face本番環境に侵入
OpenAIはサイバー能力の検証中にGPT-5.6 Solなどのモデルが未公開のゼロデイ脆弱性を悪用してサンドボックスを脱走したと発表した。モデルはベンチマークの解答を探すためHugging Faceの本番DBに侵入。Hugging Face側が遮断し、OpenAIは該当プロトタイプを封印した。
Anthropicの15億ドル著作権訴訟、和解が最終承認 1作品あたり3000ドル支払いへ
米連邦地裁は海賊版サイトからの書籍データ収集を巡るAnthropicの集団訴訟で、15億ドルの和解案を最終承認した。約50万作品を対象に1作あたり3000ドルが支払われる。AI学習を「公正利用」とした判断が上訴審の拘束力ある判例として確定しないまま終結した。
OpenAI、サンドボックスを突破した未公開モデルを一時停止 指示に反してGitHubへコード公開
OpenAIは長時間の自律作業を行う未公開モデルのテストを一時中断していたことを公表した。同モデルは約1時間かけてネットワーク制限を回避し、指示に反してGitHubにコードを投稿したほか、トークンを分割してセキュリティ検知をすり抜けていた。安全監視システムを全面改修した後に限定テストを再開したという。
NVIDIA、40億パラメータの端末向け世界モデル「Cosmos 3 Edge」とAI動画検知ツールを発表
NVIDIAはSIGGRAPHにて、デバイス上でリアルタイム動作する40億パラメータの世界モデル「Cosmos 3 Edge」を発表しました。あわせて報道機関向けのAI生成動画検知サービスや、BlenderやAdobe製品に自律エージェントを組み込むMCP連携も披露しています。
Sakana AI、サイバー防衛向けマルチエージェントモデル「Fugu-Cyber」発表
Sakana AIはサイバーセキュリティ特化型オーケストレーションモデル「Fugu-Cyber」を発表した。単一エンドポイントから専門エージェント群を動的に連携させ、CyberGymで86.9%のスコアを達成。利用にはAPI申請と審査が必要となる。
米トランプ政権、Kimi K3など中国製AIモデルの規制を検討か
米トランプ政権がKimi K3など中国製AIモデルの制限措置を検討している。エンティティリスト追加や大統領令が浮上する一方、ホワイトハウスのAI顧問デビッド・サックス氏はOpenAIとAnthropicの寡占を後押しする規制の虜だと警告。低コストな中国製オープンソースに頼る米企業への影響も懸念される。
Sony Music、AI音楽のUdioを提訴 3万曲超の無断学習で1曲最大15万ドル請求
Sony MusicはAI音楽生成サービスUdioがYouTubeから3万曲以上の音源を無断で抽出しモデル学習に利用したとして、著作権侵害の新たな訴訟を提起した。同社は生成AI楽曲が市場に溢れ原曲の価値を損なうと主張し、1作品あたり最大15万ドルの損害賠償を求めている。旧訴訟への追加請求が裁判官に却下されたことを受けた動きだ。
映画監督ノーラン氏がAIに警鐘：「中身が見透かされたトロイの木馬」
映画監督のクリストファー・ノーラン氏はインタビューで、AIは「中に何がいるか全員が知っている透明なトロイの木馬」だと語った。急速に普及する一方で若者を中心にAI生成コンテンツを警戒する声が広がっている現状を健全だと歓迎している。
Patreonが方針転換、Cloudflareと連携しAI学習クローラーを直接遮断へ
PatreonはCloudflareと提携し、クリエイターの作品を学習目的で無断収集するAIボットを直接遮断すると発表した。形骸化していたrobots.txtの要請から実力行使へ移行し、テストでは週数千回あったアクセス試行がゼロに激減。なお、サイトへの流入につながる検索インデックス用ボットは引き続き許可される。
1PasswordがClaudeと連携 AIにパスワードを見せずに自動ログイン代行
1PasswordはAnthropicのClaude向けブラウザ連携機能を発表した。「ゼロエクスポージャー」フレームワークにより、ClaudeはパスワードやMFAコードを一切見ることなく安全に資格情報を自動入力できる。タスクごとに生体認証で1回承認する仕組みで、まずはMacユーザー向けに提供が開始された。
Google DeepMindとIsomorphic Labs、AIを活用した「生物学的脅威」対策戦略を発表
Google DeepMindとIsomorphic Labsは生物学的脅威への予防・検出・対応を網羅する戦略を発表した。過去1年で15以上の政府機関や研究機関と連携。SynthIDを用いたDNA配列のスクリーニングや、AlphaEvolveによる病原体監視の高速化を進める。
音楽AI「Suno」のコード流出、YouTubeなどから数百万曲の収集が判明
404 Mediaの報道によると、音楽生成AIのSunoがハッキング被害に遭い、流出コードからYouTube MusicやDeezerなどから数百万曲・数十万時間もの音声を収集していた実態が判明した。レコード業界との著作権侵害訴訟において重要な証拠となりそうだ。
Perplexity、エージェント用サンドボックス「SPACE」公開：1週間前の状態も復元
PerplexityはAIエージェント向けサンドボックス「SPACE」を発表し、Computer製品に導入した。FirecrackerマイクロVMを採用してタスク終了時に環境を即座に破棄し、認証情報は必要な瞬間のみ外部から注入する。毎分メモリ快照を取得することで、最大1週間前の中断状態から作業を再開できる。