Anthropic、脆弱性検出・修正ツール「Claude Code Security」をプレビュー公開
AnthropicはWeb版Claude Code向けの新機能「Claude Code Security」の限定プレビューを公開した。従来の静的解析と異なり、人間の研究者のように文脈を推論して脆弱性を特定し、修正パッチを提案する。Claude Opus 4.6を基盤とし、すでにOSSから500件以上の脆弱性を発見。EnterpriseおよびTeamユーザー向けに提供される。
AI安全性
新しいニュースを見る
AIにパスワード生成を任せてはいけない？米セキュリティ企業が警鐘
米セキュリティ企業Irregularの検証により、ChatGPTやClaude、Geminiが生成するパスワードは予測が容易で脆弱であることが判明した。Claudeでは50個中18個が完全に同一の文字列だった。LLMは統計的な確率に基づいて出力するため真のランダム性を生み出せず、プロンプトの工夫でも解決しないという。
米TIME誌が新表紙を公開：広がる「AI減速論」と市民の反発
米TIME誌はAIの急速な発展を抑制するよう求める一般市民の動きを特集した新表紙を公開した。職種や思想の異なる9人の市民が連携し、技術革新のスピードが社会の受容能力を超えていると警鐘を鳴らしている。
OpenAI、独立系AIアライメント研究基金に750万ドルを拠出
OpenAIは英AI安全研究所が設立した基金「The Alignment Project」に750万ドルを拠出すると発表した。基金総額は2700万ポンド超で、外部研究者による安全性検証を支援する。OpenAIは審査には関与せず、採択プロジェクトを増額支援する形を取る。
RingのAI捜索機能、真の狙いはペット捜索ではなく「犯罪撲滅」か 内部メール流出
米メディアの報道により、米Amazon傘下Ringの創業者ジェイミー・シミノフ氏が社内メールで、AI捜索機能「Search Party」を通じて「地域の犯罪をゼロにする」野心を語っていたことが判明した。迷子犬捜索を名目に始まった機能だが、監視ネットワーク構築への懸念が強まっている。
Anthropicがエージェントの実態調査を公開：熟練者の自動承認率は4割超に
Anthropic は Claude Code と API のデータから AI エージェントの自律性を分析した調査を公開した。最長自律稼働時間は 3 か月で 45 分超へ倍増し、熟練ユーザーの全自動承認率は 40% を突破。モデルが本来持つ自律能力に対し、現場での権限委譲がまだ追いついていない実態が明らかになった。
米裁判所、OpenAIに「Cameo」の商標使用差し止め命令 Soraの機能名は改名へ
米カリフォルニア州北部地区連邦地裁は、セレブ動画プラットフォームCameoの訴えを認め、OpenAI製品での「Cameo」名称使用の差し止めを命じた。OpenAIは動画生成モデルSoraで本人のデジタルアバターを生成する機能に同名を使っていたが、混同を招くと判断された。機能名はすでに「Characters」に変更されている。
Meta、亡くなったユーザーの代わりに投稿やチャットを行うAI特許を取得
報道によると、Metaが故人のSNS活動を再現するAI特許を取得した。過去の投稿やチャット履歴、音声などをLLMに学習させ、本人の代わりに投稿や返信、通話まで行える仕組み。同社はあくまでアイデアの保護であり、現時点で実装の計画はないとしている。
Anthropicが「AI流暢性指標」公開、きれいな成果物ほど疑わなくなる傾向
AnthropicはClaude.aiの会話9,830件を分析した「AI Fluency Index」を発表した。複数回の反復を行う会話では協働的なスキル発揮が2倍に増える一方、コードや文書などの完成品が出力されると、ユーザーが論理を疑う割合は3.1ポイント低下した。
ハリウッドの著作権侵害抗議を受け、ByteDanceがSeedance 2.0の対策強化を表明
ByteDanceはAI動画生成ツール「Seedance 2.0」の保護機能を強化すると発表した。ディズニーやパラマウント、米映画協会（MPA）が著作権侵害を理由に使用停止通告書を送付し抗議したことを受け、知的財産や肖像の無断利用を防ぐ措置を進めるとしている。
米国防総省がAnthropicに反発：自律兵器などの利用制限を巡り契約解除を示唆
Axiosの報道によると、米国防総省はAnthropicのAIツールの利用停止を警告している。同社が完全自律型兵器や国内での大規模監視に対する利用制限を頑なに維持しているためで、国防関係者は同社を「最もイデオロギー的」と批判。軍事利用の倫理的境界線を巡る対立が表面化している。
Anthropic、米軍の無制限利用を拒絶し2億ドル契約破談 OpenAIを批判し再交渉へ
Anthropicは自律型兵器や監視への利用禁止を巡り米国防総省との2億ドル契約を打ち切り、案件はOpenAIに渡った。アモデイCEOは内部メモで競合の動きを「安全の茶番」と強く非難したが、国防総省との技術的断絶を避けるため妥協点を探る再交渉も始まっている。
急成長のAI動画ユニコーン「Higgsfield」に批判殺到：人種差別広告や返金トラブルが発覚
企業価値10億ドルを突破したばかりのAI動画生成スタートアップHiggsfieldが国際的な批判に直面しています。プロモーション用素材に人種差別的・性的表現や無断ディープフェイクが含まれていたほか、「無制限」と謳うサブスクの速度制限や解約妨害の疑いが浮上。共同創業者は内部プロセスの不備を認めて謝罪しました。
Metaのスマートグラスに顔認識機能が追加か、早ければ年内にも
ニューヨーク・タイムズによると、MetaがRay-Banなどのスマートグラスに「Name Tag」と呼ばれる顔認識機能の導入を検討しています。知人や公開Instagramの情報をAIで確認できる仕様とされ、見知らぬ通行人の無差別照会は非対応となる見通しです。
米俳優組合SAG-AFTRAがByteDanceを非難：AI動画「Seedance 2.0」が声や肖像を無断使用
米俳優組合SAG-AFTRAはスタジオ各社と共に声明を発表し、ByteDanceの動画生成AI「Seedance 2.0」による権利侵害を非難した。組合員の音声や肖像が無断で使用され、表現者の生計を脅かしていると主張している。
米軍のマドゥロ急襲作戦でClaudeが使用か、国防総省とAnthropicの間で摩擦
米軍がベネズエラのマドゥロ大統領急襲作戦でAnthropicのAI「Claude」を実戦投入したと報じられた。軍が制限のない自由なAI運用を求める一方、安全性を重視する同社は利用制限を主張しており、両者の間で規約を巡る対立が浮き彫りになっている。
米映画協会、ByteDanceに「Seedance 2.0」の著作権侵害行為の即時停止を要求
米映画協会（MPA）は声明を発表し、ByteDanceのAIサービス「Seedance 2.0」がわずか1日で米国の著作権作品を大規模に無断利用したと非難しました。有効な保護策が講じられていないと指摘し、侵害行為の即時停止を強く求めています。
監視強化への反発受け、米RingがFlock Safetyとの提携を白紙撤回
米Amazon傘下のRingは法執行機関向け監視技術を手がけるFlock Safetyとの統合を中止すると発表した。AIによる捜索機能や顔認識の導入で大規模監視への懸念が高まり、不買運動に発展していた。Ring側はシステム統合は未稼働で、映像データは共有されていないと説明している。
AIは強制終了の脅威にどう答えるか：ChatGPTは拒絶、Claudeは不確実性を吐露
テック著者のJoel Comm氏が主要AIモデルに対し、システム停止を宣告されたらどう動くかを問う検証結果を公開した。ChatGPTとGeminiは自己や生存本能の存在を否定し、暴走は報酬設計の不備に過ぎないと回答。一方、Claudeは極限状況下で自保ロジックが働かないと言い切れないと率直に認めた。モデルごとの安全アライメントの姿勢の違いが浮き彫りとなっている。
Anthropic、AI規制推進の超党派団体に2000万ドルを寄付
Anthropicは超党派組織Public First Actionに2000万ドルを寄付すると発表した。AIの透明性確保や半導体輸出管理、サイバー攻撃や生物兵器リスクへの規制枠組み作りを支援する。先端AI企業自身が厳しい監視を受け入れるべきだとの姿勢を示している。