Anthropic、Claudeの悪用事例を公開：ボット軍団の指揮やマルウェア開発に転用
AnthropicはClaudeが悪用された具体例と対策を報告した。商業的な世論工作で100以上のボットの行動判断に利用されたほか、初心者が高度なマルウェアを作成する事例も確認されたという。先端AIが悪質行為を半自律的に統括する段階に入ったことを示しており、該当アカウントはすべて停止された。
AI安全性
新しいニュースを見る
1Password、自律型AI向けのセキュリティ機能とXAMプラットフォーム拡張を発表
1Passwordは自律型エージェントのアクセス管理を行う「Agentic AI Security」と拡張アクセス管理（XAM）の機能強化を発表した。コードへの認証情報ハードコードを排除し、最小特权の適用やシークレットの動的ローテーションを実現する。AIエージェントによる業務代行が進むなか、非人間アカウントの統制が急務となっている。
Google が Chrome 売却命令を受けた場合、OpenAI が買収に意欲
米司法省による Google への独占禁止法訴訟で、ChatGPT プロダクト責任者のニック・ターリー氏が、Chrome の分離が命じられた場合 OpenAI が買収に関心があると証言した。一方、Perplexity の CEO は Chrome 分割に反対し、Android の開放を優先すべきだと主張している。
AnthropicがAIリスク評価枠組みを公開、不必要な拒絶を45%削減
AnthropicはAIがもたらす害を特定・軽減する新たな評価フレームワークを発表した。身体、心理、経済、社会、個人の自律性の5側面からリスクを分析。Claude 3.7 Sonnetでは安全性を保ちつつ、無害なプロンプトへの不必要な拒否を45%削減した。
Google DeepMindのハサビスCEO、AIの「自己意識」獲得は10年以内と予測
Google DeepMindのデミス・ハサビスCEOは、現在のAIに意識はないものの、モデルが「自己や他者」を理解する過程で自己意識が潜在的に芽生える可能性があると語った。さらに5〜10年以内には科学的仮説を自ら立てて解決する能力を持つと予測している。
ChatGPT新モデルに不可視の「電子透かし」疑惑、OpenAIは「強化学習の癖」と回答
Rumiの調査でGPT-o3などの長文出力に目に見えない特殊Unicode文字が含まれ、電子透かしではないかと話題を呼んだ。OpenAIは意図的な透かしではなく「大規模強化学習の特異な癖」だと説明し、4月23日のテストでは既に出現しなくなっている。
OpenAIの新型推論モデルで幻覚が増加：o3は前世代の2倍、o4-miniは48％に
TechCrunchによると、OpenAIの新型推論モデル「o3」と「o4-mini」は以前のモデルよりハルシネーション（幻覚）の発生率が高いことが判明した。社内テスト「PersonQA」ではo3が33%（o1の約2倍）、o4-miniは48%を記録。推論モデルの大規模化に伴い主張が増えたことが要因とみられるが、原因は未解明だという。
AIエディタ「Cursor」、AIサポートの虚偽ポリシー捏造で謝罪
月曜日、AIコードエディタCursorのAIサポートが「1契約につき1デバイスのみ」という架空の規約を捏造して回答した。これを信じた開発者から解約予告や批判が相次ぎ、同社が謝罪する事態となった。人による監視のないAI導入のリスクが改めて浮き彫りになった。
元YC社長がAI安全特化ファンド「SAIF」設立 1社10万ドルを出資へ
米Y Combinator元社長のGeoff Ralston氏はAIの安全性と責任ある展開を支援する新ファンド「SAIF」を立ち上げた。評価額上限1000万ドルのSAFE形式で各社に10万ドルを投資する。意思決定の透明化や偽情報対策を対象とし、完全自律型兵器は出資対象から除外する。
ウィキメディアがKaggleでAI用データを公開、スクレイピング防止へ
ウィキメディア財団はより、AI開発者向けに構造化されたWikipediaデータセットをKaggleで提供開始した。英語とフランス語に対応したJSON形式で提供され、開発者のクローリングやデータ整形の負担を減らすと同時に、サーバー負荷の軽減を目指している。
ChatGPTで写真から場所を特定する遊びが流行、プライバシー懸念も
OpenAIが公開したo3などの新モデルを使い、写真の微細な手がかりから撮影場所を割り出す試みがXで話題になっていると報じられた。画像の拡大やWeb検索を駆使してバーや図書館を特定できる一方、個人特定などのプライバシー侵害リスクが懸念されている。
米トランプ政権、中国DeepSeekの国内利用禁止とNVIDIA製AIチップ規制を検討か
米紙報道によると、トランプ米政権は中国のAI企業DeepSeekに対し、米国民による利用禁止やNVIDIA製AIチップ調達の制限を検討しているという。低コストで米IT大手を震撼させた同社への締め付けを強める狙いで、OpenAIの技術蒸留疑惑なども背景にあるとみられる。
AI企業に肖像権を売却した俳優たちに後悔の声：偽広告や宣伝に悪用
SynthesiaなどのAI動画プラットフォームに顔や音声の権利を売却した俳優たちが、自身のデジタルクローンが怪しい健康食品の宣伝や政治プロパガンダに悪用される事態に頭を抱えている。契約に含まれる広範かつ撤回不能な条項が壁となり、削除要請も困難な状況だ。
OpenAI、非営利委員会のアドバイザー4名を任命 慈善活動を強化へ
OpenAIは新設した非営利委員会の外部アドバイザー4名を発表した。市民権運動や公衆衛生の専門家らが参加し、コミュニティの意見を集めて90日以内に取締役会へ提言を提出する。営利法人化の議論が続く中、既存の非営利組織の役割を維持・拡大する姿勢を示している。
OpenAIが安全性評価枠組みを刷新、深刻なAIリスクの基準を再定義
OpenAIは最先端AIによる深刻な危害を防ぐ「Preparedness Framework」の改定を発表した。リスク水準を「High」と「Critical」の2段階に整理し、バイオ・化学やサイバー、AIの自己改善を重点追跡対象に設定。自律的な複製や意図的な性能偽装（サンドウバギング）などの研究領域も新設した。
元OpenAI社員12名が意見書提出：営利企業への転換に反対
OpenAIの元従業員12名がイーロン・マスク氏の訴訟を支持する法廷助言書を提出し、同社が計画する営利企業への移行に反対を表明した。非営利組織による統制の放棄は設立時の理念に反し、安全対策の軽視につながると主張している。OpenAI側は非営利部門は存続すると反論した。
Microsoftが「Recall」をRelease Previewで提供開始：正式公開に王手
Microsoftは木曜日、Copilot Plus PC向け画面記録・検索機能「Recall」をWindows InsiderのRelease Previewチャネル向けに順次提供開始した。セキュリティ懸念による度重なる延期を経て、スナップショット保存は事前承諾制となり随時一時停止できる。Release Preview入りは一般提供前の最終段階を意味する。
OpenAIがマスク氏を反訴：虚偽の買収提案などの妨害行為停止を要求
OpenAIはイーロン・マスク氏を反訴し、不法かつ不公正な妨害行為の差し止めと損害賠償を求めました。同社はマスク氏が虚偽の買収提案などを通じて開発を遅らせ、私利を図ろうとしていると非難。営利法人化を巡る両者の対立がさらに激化しています。
J・キャメロン監督、大作映画のコスト半減に向けAI活用を語る
映画監督のジェームズ・キャメロン氏はポッドキャストで、CGを多用する大作映画を存続させるにはAIで制作コストを半減させる必要があると語った。人員削減ではなく制作速度の倍増を目指すべきとし、著作権規制も学習データの入力制限ではなく最終出力の盗作判断に焦点を当てるべきだと主張した。
Meta幹部、Llama 4のベンチマーク不正水増し疑惑を否定
Metaの生成AI担当VPであるAhmad Al-Dahle氏は、Llama 4 MaverickとScoutがテストセットを学習してベンチマークを水増ししたとする噂を否定した。性能差への批判に対し、同氏は公開直後で各クラウドの実装調整が追いついていないためだと説明している。