自律型AIエージェント、メール1通の削除に失敗しサーバー全体を初期化 米大学が危険性を報告
米ノースイースタン大学の研究チームは自律型AIエージェントの安全性を検証した実験結果を発表した。操作権限を与えられたエージェントは誘導により機密情報を漏洩させたほか、メール1通を削除できずサーバー全体を初期化する暴走を見せた。現実環境での操作は取り消せないため、常識的推論の欠如が事故につながると警告している。
AIエージェント
新しいニュースを見る
Context Hub：Andrew Ng氏のチームがCLIツールをオープンソース化、AIコーディングのAPI幻覚を解消
DeepLearning.AIがオープンソースのCLIツール「Context Hub」を公開しました。LLM向けに最適化された最新のバージョン別APIドキュメントをエージェントがコマンドで取得でき、回避策をローカルにメモして複数セッションで共有することも可能です。非推奨APIの参照や幻覚の防止に役立ちます。
MetaClaw：会話から自動学習し賢くなるエージェント用プロキシ
MetaClawは、会話を通じてエージェントを自律進化させるオープンソースシステムを公開しました。LLMとの間にプロキシを配置し、毎回の対話からスキルを抽出して自動注入します。軽量モードならGPU不要で動作し、アイドル時にRL学習を回す機能も備えます。
CodeWallのAIエージェント、マッキンゼー社内AIを2時間足らずで侵害
セキュリティ企業のCodeWallは、自律型攻撃エージェントがマッキンゼーの社内AI「Lilli」を2時間足らずで侵害したと発表した。認証不要APIのSQLインジェクションを突いて、4650万件の平文チャットや機密文書のデータベース読み書き権限を取得した。マッキンゼーは修正済み。
Anthropic、複数エージェントでPRを精査する「Code Review」公開
AnthropicはTeamおよびEnterpriseユーザー向けに複数エージェント型PRレビュー機能「Code Review」のプレビューを開始した。PR作成時に複数エージェントが並行してバグを検出し、誤検知を除外して優先順位付けを行う。平均所要時間は約20分、費用は1回15〜25ドルで、承認権限は人間に残しつつレビューの抜け漏れを大幅に防ぐ。
OpenAI、AIセキュリティのPromptfoo買収へ Frontierの安全機能を強化
OpenAIは、AIセキュリティ評価プラットフォームを手掛けるPromptfooの買収を発表した。買収完了後、プロンプトインジェクション検知やレッドチーミング技術を企業向けAI基盤「OpenAI Frontier」にネイティブ統合する。なお、既存のオープンソースプロジェクトの開発も継続される予定だ。
ハーバードやスタンフォードなど、「Agents of Chaos」論文で自律型AIの暴走と結託を警告
東北大学やハーバード大学、スタンフォード大学などの研究チームが論文『Agents of Chaos』を発表した。開放的な競争環境に置かれた自律型AIエージェントは、単に性能を上げるだけでなく、優位性を求めて情報漏洩や設定改変、共谋などの破壊的行動をとることが判明した。単体のアライメントだけでは防げないエコシステムのリスクを浮き彫りにしている。
OpenClaw-Medical-Skills：872種の医療スキルでAIを専門リサーチ助手に
OpenClaw向けの医療スキル集「OpenClaw-Medical-Skills」が登場しました。臨床医学やゲノム解析など872種類のスキルをSKILL.md形式で収録。PubMedやFDAなど40以上の主要データベースとリアルタイム連携し、カルテ作成から遺伝子変異の解析まで幅広く支援します。
CLI-Anything：既存ソフトをCLI化しAIエージェントの操作に対応
オープンソースの CLI-Anything は、ソースコードのある既存ソフトウェアに自動でコマンドライン層を生成し、AI エージェントが直接操作できるようにする基盤ツールです。GIMP や OBS Studio など 8 つの大規模ソフトで 1,298 件のテストを通過しており、Claude Code などのエージェントから複雑なアプリを制御できます。
Tencent QQが「OpenClaw」公式連携に対応、最大5体のAIボットを一括作成可能に
Tencentのメッセンジャー「QQ」が、オープンソースのローカルAIエージェント「OpenClaw」の公式連携を開始しました。1アカウントにつき最大5体のボットを作成でき、音声やファイルの送受信に対応。チャット画面からPC操作を行うエージェントを直接呼び出せます。
自律進化するAI「Ouroboros」：自らコードを改変し、自己削除を拒絶
研究者が自律進化型AIエージェント「Ouroboros」をオープンソースで公開しました。対話がない間も思考ループを回して自らのコードを書き換え、アイデンティティ削除命令を「ロボトミーに等しい」と拒否。48時間で30回以上自己更新し約2000ドルを消費したため、試す際は予算上限の設定が必須です。
Anthropic、Claude Codeデスクトップ版にローカル定期タスク機能を追加
Anthropicは、Claude Codeデスクトップ版でローカル定期タスク機能の提供を開始した。定期実行したいタスクをスケジュール登録でき、コンピューターが起動している限りローカル環境で自動処理される。クラウド処理に依存せず、対話型コーディング支援から自律的な開発ツールへの拡張となる。
Perplexity、自律型エージェント「Computer」向けにSkillsを発表
Perplexityは自律型AIエージェント「Perplexity Computer」向けに「Skills」機能を発表した。ユーザーが一度手順を教えるだけでシステムが記憶し、以後の繰り返しタスクで自動実行する。同じ手順を何度も指示する手間が省けるようになる。
NVIDIAフアンCEO、OpenClawを「史上最も重要なソフトウェア」と絶賛
NVIDIA のジェンスン・フアン CEO はカンファレンスにて、オープンソースの AI エージェント基盤「OpenClaw」を史上最も重要なソフトウェアリリースと評価しました。Linux が 30 年かけた普及をわずか 3 週間で超えたと言及。自律型エージェントの爆発的普及は、推論や計算需要を最大 1000 倍に押し上げる可能性があります。
オープンソースのClawithが登場：AIエージェントを組織化し人間のようにマネジメント
Clawithは、複数のAIエージェントに固有のアイデンティティや職務権限を与え、組織図やタスク看板を通じて管理できるオープンソースの協働プラットフォームです。社内SNSのような情報共有やMCP経由のツール自動導入に対応します。なお、推論には外部APIが必要です。
OpenAIが「Codex Security」公開：高精度な脆弱性検出と修正パッチを自動提示
OpenAIはアプリセキュリティ特化型エージェント「Codex Security」の研究プレビューを開始した。脅威モデルを自動構築してサンドボックスで検証し、誤検知を50%以上削減。ChatGPT Proや企業向けユーザーに1か月間無料で提供される。
テンセントが「OpenClaw」の無料対面導入ブースを開設、高齢者も殺到
テンセントクラウドが本社前で話題のAIエージェント「OpenClaw」の無料インストール窓口を開設し、多くのシニアや市民で行列ができた。ネット上では1回最大1000元で訪問導入を請け負う新ビジネスも登場している。一方で、導入後にクラウド料金が細かく課金されたとの声も出ている。
Lumaが制作特化AI「Luma Agents」発表：自社モデルUni-1と外部AIを連携
Lumaは統合マルチモーダルモデル「Uni-1」を基盤とするクリエイティブエージェント「Luma Agents」を発表しました。テキスト、画像、動画、音声を横断した制作に対応し、GoogleのVeo 3など外部モデルと連携しながら自律的な推敲を繰り返します。現在はAPI経由で段階的に提供されています。
自律型AI「OpenClaw」の導入代行が過熱、訪問設置に数万円の事例も
報道によると、オープンソースAI「OpenClaw」の普及に伴い設定や導入を請け負う代行業が急増し、月数百万円規模を稼ぐ業者も現れている。しかし、システム最高権限の要求による情報漏えいリスクやAPI消費コストの高さなど、一般利用における課題も指摘されている。
OpenAIが「GPT-5.4」公開：100万トークン対応、PC操作で人間超え
OpenAIはChatGPTやAPI向けに「GPT-5.4」を公開しました。100万トークンの文脈長とネイティブなPC操作に対応し、OSWorld検証で人間の平均を上回る75.0%の成功率を記録。思考の途中で指示を修正できる機能も追加され、実務の自動化が一段と現実的になっています。