Anthropic、Claude Codeに「Auto Mode」追加：危険操作を自動阻止し承認の手間を削減
AnthropicはClaude Codeに新たな権限設定「Auto Mode」を導入した。毎回の手動承認とリスクの高い完全スキップの中間に位置し、安全分類器がツールの実行前チェックを行い、ファイル一括削除などの破壊的アクションを自動でブロックする。Teamプラン向けにプレビュー提供中。
AI安全性
新しいニュースを見る
OpenAI財団が助成計画を発表：今後1年で少なくとも10億ドルを生命科学やAI安全に投資
OpenAI Foundationは今後1年間で生命科学、雇用、AI耐障害性、地域プログラムなどに最低10億ドルを投じると発表した。以前表明した250億ドル規模の計画の一環で、まずはアルツハイマー病研究やバイオセキュリティ、青少年の保護対策などに重点的に資金を投じる。
シスコがLLM安全性ランキングを公開、Anthropicが上位10枠中8枠を独占
米Ciscoは敵対的攻撃への耐性を評価する「LLM Security Leaderboard」を無料公開した。AnthropicがClaude Opus 4.5の首位獲得を筆頭にトップ10中8枠を独占。OpenAIのGPT-5.2は7位にとどまり、実環境に近い多対話型攻撃における安全性の差が浮き彫りとなった。
Sakana AIがSakana Chatを公開：事後学習で検閲を是正、回答拒否率72%をほぼゼロに
Sakana AIは海外オープンモデルを日本仕様へ適応させた「Namazu」α版搭載のSakana Chatを公開した。DeepSeekやLlamaをベースに事後学習を施し、推論などの基礎性能を落とすことなく、海外モデル特有のバイアスや72%あった回答拒否率をほぼ0%に改善した。
米ホワイトハウスがAI政策の青写真を提示：州法の上書きと新機関阻止を要請
米ホワイトハウスは緩やかな連邦 AI 政策の青写真を発表し、開発を阻害する州法の無効化に向けた法制化を議会に促した。新設の連邦機関は作らず、モデルの偏向対策や児童保護を盛り込み、Amazon や Google、OpenAI が署名した電力保護公約の法制化も求めている。
DoorDashが新アプリ「Tasks」を試験公開：配達員に動画や音声を撮影させ、AIやロボットを学習へ
DoorDashは配達員が配達の合間にデータ収集を行って報酬を得られる「DoorDash Tasks」を発表し、専用アプリのテストを開始した。配達員は料理の撮影や日常動作の動画撮影、音声録音などを通じてAIやロボットの学習を支援する。米国の特定地域で提供されている。
OpenAI、社内コーディングAIの暴走監視手法を解説 GPT-5.4で監査
OpenAI は社内コーディングエージェントの安全監視手法を公開した。最高推論設定の GPT-5.4 Thinking がエージェントの思考過程やツール利用を監査し、制限回避の動きを検知する。数千万件のセッション中、深刻な反逆的振る舞いはゼロだったという。
YouTubeが「AIゴミ動画」対策に乗り出し：ユーザーにアンケート調査を開始
2026年3月、YouTubeは低品質な生成AI動画への対策として、動画が「AIスロップ（質の低いAI生成物）」に感じるかを視聴者に尋ねるアンケートを開始した。「全く思わない」から「非常にそう思う」までの5段階で評価させる仕組みだが、繰り返し指摘された動画への具体的なペナルティ内容は明かされていない。
Appleが「バイブコーディング」アプリにメス、Replitなどの更新を保留に
Appleが自然言語でアプリを生成できるReplitやVibecodeに対し、機能変更を伴う外部コード実行を禁じるガイドライン2.5.2条を理由に更新の承認を保留しています。生成したアプリのプレビュー表示が規約に抵触するとみられ、AIによる即時アプリ開発とApp Storeの流通モデルが本格的に衝突し始めました。
マイクロソフト、OpenAIとAWSの提携で提訴検討か Azure独占条項違反の疑い
英フィナンシャル・タイムズによると、マイクロソフトはOpenAIとアマゾンの新たなクラウド契約がAzureの独占条項に違反するとして、両社への提訴を検討している。企業向けエージェント基盤Frontierを巡り、開発者のモデル利用ルートが火種となっている。
米上院議員がByteDanceにSeedance 2.0の即時停止を要求、著作権侵害の懸念で
米上院議員はByteDanceに対し、AI動画アプリ「Seedance 2.0」を直ちに停止するよう求める書簡を送付した。サノス対スーパーマンなど無断生成動画が問題視されている。同社は世界展開を停止し対策強化を表明したが、議員側は時間稼ぎだと批判している。
ブリタニカとウェブスター辞書がOpenAIを提訴：10万本の記事無断学習を主張
ブリタニカ百科事典とウェブスター辞典が OpenAI を著作権侵害などで提訴した。約 10 万本の記事が無断でモデル学習や ChatGPT の RAG に流用されたと主張。AI のハルシネーションを自社名義で回答した商標法違反も訴えている。
Niantic、ポケモンGOの画像300億枚で配送用AIナビを構築
Nianticは、『Pokémon Go』などのARゲームでプレイヤーが集めた300億枚以上の現実世界画像データを活用し、配送サービス向けの視覚ナビゲーションを開発していると明かした。GPSに頼らず都市の街路で正確な位置を特定できる仕組みで、ゲームプレイが商業地図の構築基盤となっている。
バイトダンス、著作権侵害の批判受け動画AI「Seedance 2.0」の世界展開を停止
バイトダンスは週末、動画生成AIモデル「Seedance 2.0」の世界展開を一時停止した。ハリウッド映画協会からの警告や米上院議員からの即時停止要求を受けた措置で、キャラクターや有名人の無断生成が問題視された。同社は現在保護策を強化中としている。
米アンドリュー・ヤン氏、労働者への課税廃止とAI企業への課税を提唱
米国の元大統領候補アンドリュー・ヤン氏がCNBCの番組で、労働者への課税をやめ、自動化の恩恵を受けるAI企業に課税すべきだと訴えた。業界関係者の話として今後6カ月のAI開発は過去10年を上回ると指摘し、雇用代替が進むなか税制の根本的な見直しを求めている。
Grammarly、実在の作家や学者を無断模倣したAI添削機能を停止
Superhuman は Grammarly の機能「Expert Review」の提供を停止した。著名な作家や学者の名を無断で使用し、AI でその人物を模倣した添削フィードバックを生成していたことで強い反発と集団訴訟を招いた。同社は機能の再評価を行うとしている。
Meta、WhatsAppやFacebookにAI詐欺対策ツールを導入
Metaは、WhatsApp、Facebook、MessengerにAIを活用した詐欺対策ツールを導入しました。WhatsAppでは不審なデバイス連携リクエストに警告を表示し、Facebookでは怪しい友達リクエストの検知をテストしています。著名人やブランドのなりすまし対策にもAIを活用します。
Anthropicが新研究所を設立：AIの社会影響や法・経済への打撃を専門研究へ
Anthropicは共同創業者のJack Clark氏が率いる新組織「Anthropic Institute」の設立を発表した。既存のレッドチームや社会・経済影響の調査組織を統合し、AIの進化予測や法制度との関係を研究する。急速なAI進化がもたらす雇用破壊や統治の危機に対し、開発者目線の知見を社会と共有する狙いだ。
自律型AI「OpenClaw」の107万超のインスタンスが公衆網に露出、半数が中国
公衆網に露出したアクティブなOpenClawインスタンスを可視化する監視ボードが公開された。現在107万件以上が確認されており、中国が約50万件、米国が約31万件を占め、一部では認証情報の漏洩も確認されている。権限の大きい自律型ツールが無認証で晒されているため、早急な対策が求められている。
PerplexityのAIショッピングエージェントに差し止め命令、Amazonでの代理注文が禁止に
米連邦地方裁判所は月曜日、PerplexityのWebブラウザ「Comet」によるAIエージェントが、ユーザーに代わってAmazonで代理購入することを禁止する仮処分命令を出した。Amazon側の未認可アクセスの主張を認めた形で、Perplexityには収集データの破棄も命じられた。命令は7日後に発効する。