米サイバーセキュリティ専門家が連名書簡：Anthropic製AIの輸出規制解除を要請
米国のサイバーセキュリティ幹部らが連名書簡を提出し、Anthropicの「Fable」と「Mythos」に対する輸出規制の撤回を求めた。同様の機能はGPT-5.5や中国のKimi 2.7にも存在しており、防御側からAIを奪う規制はインフラ保護を危うくすると警鐘を鳴らしている。
AI安全性
新しいニュースを見る
Amazon の CEO が安全性に懸念、Anthropic 新モデルへの米輸出規制を誘発
今週、Amazon の Andy Jassy CEO らがトランプ政権高官に対し、Anthropic の最新モデルが抱える安全保障上のリスクを提起した。これを受け米政府は、同社の「Mythos」と「Fable」に対する外国籍者のアクセスを制限する新たな輸出規制の導入に踏み切った。
GoogleがAI詐欺組織を提訴、FBIや大手通信各社と連携し撲滅へ
GoogleはAIを悪用したフィッシング詐欺グループ「Outsider Enterprise」を相手取り民事訴訟を起こした。同組織はTelegramを介して偽サイトを9,000件以上構築し悪質メッセージを大量送信していた。同社はFBIや通信キャリアと連携して遮断を進めつつ、AI詐欺規制法案の成立も後押ししている。
米政府の輸出管理命令を受け、Anthropicが「Fable 5」「Mythos 5」の提供を全面停止
米政府は安全保障上の懸念を理由に、外国籍者による「Fable 5」および「Mythos 5」へのアクセス停止を命じる輸出管理指令を発出した。これに伴い Anthropic は全顧客向けに両モデルの提供を停止した。政府は潜在的な脱獄リスクを指摘したが、同社は極めて限定的で他社モデルと同等水準だと反論している。
Anthropicが米5.2万人調査：64%が失職を懸念、企業信頼は15%
Anthropicは約5.2万人の米国人を対象にした調査結果を発表した。64%がAIによる失業を危惧し、7割以上が政府規制を支持する一方、AI企業を信頼する人はわずか15%にとどまった。ただし日常的にAI業務を行う人は、未利用者に比べ失職の懸念が低いことも判明した。
Anthropic、最上位AIの「サイレント格下げ」を撤回 安全上の理由を明示へ
Anthropicは最新モデル「Fable 5」で批判を浴びていた安全対策を変更すると発表した。先端AI開発や国家安全保障に関わるリクエストを密かに下位モデルへ切り替えていた運用を改め、今週からOpus 4.8へのフォールバックと拒否理由をAPI上で明示する。同社はバランスの判断を誤ったと認めて謝罪した。
Meta、買収撤回命令を受けAIスタートアップManusとの関係を全面停止
Metaは、規制当局から20億ドル規模の買収取引の撤回を命じられたことを受け、AIスタートアップManusとの業務関係を完全に打ち切った。MetaはManusとのデータ共有を停止し、社内従業員による同社AIツールの利用も禁止した。
Deezer、他社プレイリスト対応のAI音楽検出ツールを公開：SpotifyやApple Musicも走査
Deezerは、SpotifyやApple Musicなど20の競合ストリーミングサービス上のプレイリストをスキャンし、生成AI楽曲を検出する無料ツールを公開した。技術ライセンスの提供先が見つからなかったため、一般ユーザー向けに直接開放した形だ。
OpenAIがEUのAIコンテンツ透明性規範を支持、二重透かしで出所追跡
OpenAIは欧州委員会が発表した「AI生成コンテンツの透明性に関する行動規範」への支持を表明した。ChatGPTやAPIで生成された画像にC2PAメタデータとSynthID電子透かしの両方を適用しており、一般向けの検証ツールも提供している。
Anthropicのダリオ・アモデイCEO、AIのFAA型規制を提言 危険な配備の阻止権限を要求
米Anthropicのダリオ・アモデイCEOは急速に進化するフロンティアAIに対し、航空業界（FAA）のような義務的規制を求める提言を発表した。サイバーセキュリティや生物リスクに関する第三者テストを義務付け、政府に危険なモデルの配備阻止権限を与えるべきだと主張。法案提案書も同時公開した。
NVIDIA、Appleの「Private Cloud Compute」にBlackwellを提供
NVIDIAは機密コンピューティング対応のBlackwell GPUがAppleのPrivate Cloud Computeに採用されたと発表した。Google Cloudへ基盤を拡張し、Gemini技術を活用した次世代モデルを支援。ハードウェア保護により運用者もユーザーデータを閲覧できない。
KAISTがLip Forcing発表：2ステップ拡散で31FPSのリアルタイム口形同期
KAIST AIとAIPARKが動画間リップシンク向けの自己回帰拡散モデル「Lip Forcing」を発表。14B教師モデルを2ステップで生成する学生モデルへ蒸留し、1.3B版は単一のH100で31 FPSを記録、リアルタイム処理の壁を突破した。
Anthropic、Claude Managed Agentsに定期実行機能と認証情報ボールトをパブリックベータで提供
AnthropicはClaudeプラットフォームの「Managed Agents」向けにスケジュール実行と環境変数ボールトの2つの機能をパブリックベータ公開した。スケジューラを自前で構築せずに定期タスクを自動実行できるほか、APIキーはネットワーク境界で注入されモデルに直接露出しない。
Anthropic、最上位級「Claude Fable 5」発表 高リスク時はOpusへ自動切替
Anthropicは一般利用可能な新フラグシップモデル「Claude Fable 5」を発表した。ソフトウェア工学や科学研究でトップレベルの性能を発揮する一方、サイバーセキュリティなどの悪用を防ぐため、危険と判定された5%未満のプロンプトを「Opus 4.8」に自動フォールバックする安全機能を備える。
OpenAIが「第3フェーズ」構想を発表：2028年までにAI研究を自動化へ
OpenAIは自社の「第3フェーズ」に向けた計画を発表した。2028年3月までに研究プロセスを自動化する「AI研究員」を構築し、全人類へパーソナルAGIを届ける方針を示す。AIによる意思決定の完全自動化には警鐘を鳴らし、国際的な安全協調機関の設立も呼びかけた。
OpenAI、経済研究プログラムを発表：AIが雇用や社会に与える影響を外部研究者と検証
OpenAIは外部研究者と連携してAIの経済的影響を検証する「Economic Research Exchange」を立ち上げた。採択された研究者には同社のツールやデータセットへのアクセスが提供され、労働経済や生産性、格差などをテーマに共同研究を行う。募集は2026年7月5日まで受け付ける。
OpenAIがChatGPTに「Lockdown Mode」導入：プロンプト注入対策で一部制限
OpenAIはプロンプト注入攻撃から機密データを守る新機能「Lockdown Mode」をChatGPT向けに提供開始した。有効にするとDeep ResearchやAgent Modeが停止され、Web画像読み込みやファイルダウンロードが制限される。無料ユーザーを含む全アカウントで設定可能。
全米音楽家連合、ユニバーサルとワーナー提訴 Suno・UdioへのAI許諾で報酬未払いと主張
全米音楽家連合（AFM）はUniversal Music GroupとWarner Music Groupを相手取り提訴した。両社がAI音楽生成のSunoやUdioと和解・許諾契約を結びながら、演奏した所属音楽家に報酬やクレジットを分配していないと主張している。労使協定の「新規利用」条項に違反するとして、損害賠偿と学習データの開示を求めている。
Anthropic、AI開発の世界的一時停止を提唱：2年以内の自己改善リスクを警告
AnthropicはフロンティアAI開発の世界的な一時停止や減速を呼びかけた。AIが自らコードを書いて自己改善する能力を2年以内に獲得する恐れがあると警告。だが検証が困難な点や、IPO前の戦略的アピールではないかとの懐疑的な声も上がっている。
マイクロソフトのナデラCEO、AIエージェントへの「中毒」狙う社内メモを批判
米マイクロソフトのサティア・ナデラCEOが、同社の新AIエージェント「Scout」にユーザーを中毒にさせるべきと提唱した幹部の社内メモを強く非難した。約50人のトップAIエンジニアに対し、中毒化は「決して目標ではない」と述べ、執筆者は他社へ移籍すべきとも示唆した。