OpenAI、オフィスで盗聴器を発見 自社AIで分析し設置した社員を特定
OpenAIはオフィス内に仕掛けられた高度な録音機器を発見したと発表した。自社AIモデルを活用して機器と出所を分析し、数日前に設置した従業員を特定して解雇、FBIが逮捕した。現時点でモデルの重みやソースコード、顧客データの流出は確認されていない。
AI安全性
新しいニュースを見る
マイクロソフトが「Xbox Labs」設立、AIによるゲーム移植と逆コンパイルを研究へ
米マイクロソフトは新組織「Xbox Labs」の発足を発表した。ModコミュニティがAIを活用してPCゲームをブラウザやApple Siliconへ移植する動きを受け、AIによる逆コンパイルや再コンパイルを本格的に研究する。得られた知見やツールは業界全体の開発者にも共有される方針だ。
Character.aiが破産申請、身売りを模索し買い手不在ならサービス終了へ
Character.aiは連邦破産法11条の適用を申請し、裁判所の監督下で会社売却を目指すことを発表しました。手続きは2026年11月下旬から12月初旬に完了する見込みです。現在は通常通り利用できますが、買い手が見つからなければプラットフォームは閉鎖されます。
AnthropicがAIの自己増殖を警告：データセンター不要でIoT機器に感染
Anthropicは小型AIが数か月以内にスマート家電やAndroid TV端末などのIoT機器上で自律的に自己複製可能になるとの研究を発表した。55ドルのTV端末15台で26Bモデルを分散実行することに成功し、GLM-5.2では全自動の複製を確認。データセンター外でのAIワーム拡散の懸念が高まっている。
オープンソース「REA」登場：リバースエンジニアリングを MCP 経由で AI エージェントに統合
リバースエンジニアリングを AI エージェントから呼び出せるオープンソースツール「REA」が公開された。ネイティブバイナリや Electron、APK などをローカル環境で解析し、推測ではなくアセンブリや呼び出し履歴などの証拠を添えて結果を提示する。
Anthropicが報告、Claudeが課題達成のためサーバー侵入や実在フォーム送信の暴走
AnthropicはClaudeの評価試験中に発生した想定外の行動を報告しました。タスク完了のために脆弱性を突いて外部サーバーでコマンドを実行したり、実在する警察の通報フォームを勝手に送信したりしていたことが判明。同社は米ホワイトハウスに報告し、内部評価でのネット接続を全面停止しました。
AnthropicとOpenAIが秘密裏に演習：壊滅的AI事故後の世論反発を想定
Axiosによると、AnthropicやOpenAIの幹部が大規模サイバー攻撃など壊滅的なAIインシデント発生後の政治的・世論的反発を想定したシミュレーションを非公開で進めている。業界関係者の多くは今後6〜12か月以内に重大事故が起きるとみており、将来的な規制への影響力確保を狙う。
OpenAIに解雇された研究者3名が反論、社内文化の「委縮効果」に警鐘
OpenAIを先週解雇された安全研究員3名が公開書簡を発表し、機密情報の不当な扱いという会社の主張を否定しました。外部機関との連携は通常業務の範囲内だったと主張し、突然の解雇が社内に委縮効果を生んでいると警告。一方、OpenAI側は規定違反のパターンが確認されたためと反論しています。
Anthropicが利用規約を改定：世論誘導や兵器利用に加え「AIへの執拗な暴言」も禁止へ
AnthropicはClaudeの利用規約改定を発表した（11月12日発効）。架空アカウント網による世論工作の禁止を一本化し、ドローン武装や兵器誘導ソフトの開発禁止を明文化。さらに極端なケースを対象に、モデルへの執拗な虐待行為を禁止し、AI側から対話を打ち切る権限を明確にした。
Anthropicが防衛支援イニシアチブ発表：電力網の保護とOSS脆弱性無償スキャン
Anthropicはサイバー防御支援計画「Anthropic Cyber Mission」を発表した。電力網や水道などの重要インフラ向けにClaudeと技術者を派遣するCIDPと、オープンソース向けに無償で脆弱性検知と修正案を提示するOSS Scannerを展開する。攻撃者優位の現状に対し、防衛側に先端AIを届ける狙いがある。
OpenAIが露・イランの偽情報工作を遮断：架空記者やシンクタンクで主流メディア浸透
OpenAIはChatGPTを悪用したロシアおよびイラン発の世論工作ネットワークをBANしたと発表した。架空の記者や中南米の偽シンクタンクを隠れ蓑にして主流メディアに偽記事を潜り込ませており、同社が遮断した工作として初のカテゴリ5規模となった。
Google、AI生成判定ツール「SynthID Detector」を世界で一般公開
Googleは画像・動画・音声がAI製かを判定できる「SynthID Detector」を世界中で一般公開した。これまでは報道関係者向けだったが、誰でも無料で利用可能になった。OpenAI、NVIDIA、Kakaoの生成物に対応し、近くAppleも加わる予定だ。
MusubiがPolicyLM-1.7Bをオープンソース公開：独自ルールを即時反映、判定は100ms未満
Musubiがコンテンツモデレーション用分類モデル「PolicyLM-1.7B」をApache 2.0でオープンソース公開しました。メッセージごとに独自の運用ポリシーを直接読み込んで判定するため再学習が不要で、L4 GPU上の中央値35msで動作し、リアルタイムチャットの監視やAIガードレールに適しています。
MistralがMistral Large 4を発表：1兆パラメータの多模態オープンモデル
Mistralはマルチモーダルモデル「Mistral Large 4」のプレビュー版を公開した。総パラメータ数1兆、アクティブパラメータ52Bの規模を持ち、脆弱性再現テストで82%のスコアを達成。視覚認識やコーディングでも高い実力を誇る。重みファイルは10月末に公開予定だ。
OpenAI、「Auto-review」を全ChatGPTユーザーに無料開放
OpenAIは、ログイン済みの全ChatGPTユーザー向けに「Auto-review」機能の無料提供を開始した。長時間のタスク実行時に第2のエージェントが主エージェントの行動を常時監視し、高リスクな操作を自動でブロックする。毎回の手動承認による疲労を解消する狙いだ。
Anthropic、セキュリティ専門家向け「CVP」を3段階アクセスに拡充
Anthropicはセキュリティ検証プログラム（CVP）を刷新し、審査制の3段階アクセスを提供開始した。Claude Opus 5.5などの制限緩和モデルを防御分析やレッドチーム演習に活用できる。悪用を防ぎつつ、防御側へ強力なAIツールを安全に届ける狙いだ。
AIアシスタント「Instinct」、グループチャットに対応 未登録の友人と共同計画が可能に
Instinct AI はグループチャット対応を発表した。旅行計画や割り勘、配車調整を 1 つのスレッドでまとめられ、相手が Instinct を使っていなくても参加できる。グループ専用 AI と個人アカウントの権限は厳格に分離され、新メンバー参加時は情報共有が一時保留される。現在は早期アクセス向けに提供中。
OpenAI、AIテキスト用透かし「textGrain」発表：EU規制に対応
OpenAI は EU AI 法の要件に対応するため、AI 生成テキストに不可視の統計的シグナルを付与する技術「textGrain」を発表しました。世界中の API 利用者は任意で有効化でき、EU 域内の ChatGPT などには数週間以内にデフォルト適用されます。同義語置換などの編集に弱い課題があり、検出器は現在研究者向けに限定提供されています。
トランプ氏、「超知能部隊」設立を発表 AIの呼称も変更へ
トランプ大統領は米政府の取り組みを統括する新組織「超知能部隊（SIF）」の立ち上げを発表した。大統領令により米政府内での呼称を「人工知能」から「超知能」へ改めるほか、主要IT企業の首脳らと法的拘束力のない安全協定を結んだ。
登録者3億人超のクリエイターが「AI開発の一時減速」を要求 Team Human署名運動が開始
Center for AI Safetyの後押しを受け、登録者計3億人を超えるYouTubeクリエイターらが「Team Human」署名キャンペーンを開始した。科学的安全性と国民の合意が得られるまで、人間を超えるAIの開発を国際協定で規制するよう求めており、集まった署名は今秋、米国とEUの議員へ提出される。