米反トラスト訴訟資料で発覚、Googleが「オープンウェブは急速に衰退」と認める
The Verge報道によると、Googleは広告独占を巡る法廷提出書類で「オープンウェブはすでに急速に衰退している」と主張した。AI検索下でもウェブは繁栄しているというこれまでの公式見解と矛盾する内容だ。Googleは文脈が切り取られたものであり、言及したのはディスプレイ広告市場にすぎないと釈明している。
AI安全性
新しいニュースを見る
Anthropic、カリフォルニア州のAI規制法案「SB 53」への支持を表明
Anthropicはカリフォルニア州の最先端AI規制法案「SB 53」への支持を発表した。同法案は10^26 FLOPS以上の計算力で開発された大規模モデルを対象に、安全フレームワークの公表や内部告発者保護を義務付ける一方、スタートアップは対象外とする。同社は情報開示の法制化が健全な競争に繋がると評価している。
Anthropic、著作権侵害訴訟で約15億ドルの和解案に合意
Anthropicは海賊版書籍をAI学習に利用したとされる集団訴訟で、少なくとも15億ドルを支払う和解案に合意した。1作品あたり約3000ドルが支払われ、ダウンロード済みデータの破棄も義務付けられる。米国の著作権訴訟として過去最大規模だが、将来の学習許諾は含まれていない。
OpenAIがLLMの「幻覚」原因を分析 正答率偏重の評価がAIの山勘を助長
OpenAIは言語モデルがハルシネーションを起こす要因を分析した論文を公開した。現在の評価ベンチマークが正答率のみを測定するため、「分からない」と認めるよりも当てずっぽうに答えた方が有利になる構造を指摘。自信満々の誤答を減点し、不確実性の表明を適切に評価する仕組みへの改定を求めている。
Eliza LabsがXを提訴：技術情報を聞き出された後にアカウント凍結・類似機能を提供か
オープンソースのAIエージェント基盤ElizaOSを手がけるEliza Labsが、X（旧Twitter）を米連邦地裁に提訴した。協業や規約違反対応を名目に技術詳細を詐取された後にアカウントを停止され、xAI側で類似製品を模倣されたと主張している。
Anthropic、会話履歴をAI学習に利用へ オプトアウト可能だが初期値はオン
Anthropicは個人ユーザーのチャットやコード履歴をAIモデルの学習に利用し、最長5年間保持すると発表した。9月28日に発効し、Free、Pro、Maxが対象となる。同意ポップアップはデフォルトで有効化されているが、設定から無効化できる。企業向けやAPI利用は除外される。
Anthropicが利用規約を改定：Claudeの会話データを学習に使うか選択可能に
Anthropicは個人向け利用規約とプライバシーポリシーを改定し、Free、Pro、Maxのユーザーに対し、会話やClaude Codeのデータをモデル学習に使用することを許可するかどうかの選択肢を設けた。同意した場合のデータ保持期間は30日から5年に延長される。商用やAPI利用は対象外。
OpenAIとAnthropicが共同安全性評価を公開：互いの主力AIを相互検証
OpenAIとAnthropicは初の共同安全性評価の結果を公表し、互いの社内テストを用いて相手の主力モデルを検証した。Claude 4はプロンプト抽出耐性に優れる一方、幻覚テストで70%の拒絶率を記録。OpenAI o3は脱獄耐性で優勢を示した。競合同士が互いの盲点を洗い出す透明性の高い試みだ。
AnthropicがAI悪用報告書を公開：Claude Codeがサイバー恐喝に悪用される
AnthropicはAI脅威インテリジェンス報告書を公開しました。ハッカーがClaude Codeを使って17以上の組織に自動侵入・情報窃盗を行い身代金を要求した事例などが判明。同社は該当アカウントを即時凍結し、新たな検知対策を導入したと発表しました。
Anthropicが国家安全保障諮問委員会を発足：元国防長官代行ら両党の重鎮が集結
Anthropicは国家安全保障および公共部門諮問委員会の設立を発表した。シャナハン元国防長官代行やコーエン元CIA副長官など両党の元高官が参加し、サイバー防衛や情報分析などの分野で支援を行う。同社は米政府機関との連携を急速に深め、安全保障分野でのAI活用を本格化させている。
Anthropic、海賊版書籍でのAI学習巡る集団訴訟で和解へ 巨額賠償の裁判を回避
米AnthropicはClaudeの訓練に海賊版書籍を使用したとして提訴されていた集団訴訟で、原告の作家グループと予備的和解に達した。12月に予定されていた裁判では最大1兆ドル超の損害賠償に直面するリスクがあった。和解の詳細は9月3日までに最終確定する見込み。
Nous Researchが「Hermes 4」発表：推論モードと低拒否率を両立
Nous ResearchはLlama-3.1-70Bベースのオープンモデル「Hermes 4」を公開し、Nous Chatを刷新した。<think>タグを使ったハイブリッド推論に対応し、600億トークンのデータで事後学習を実施。独自指標RefusalBenchで不要な拒絶を抑えた高い柔軟性を記録した。
長時間の会話でも安全性を維持：OpenAI、ChatGPTのメンタルヘルス保護を強化
OpenAIはChatGPTにおけるメンタルヘルス支援と危機対応策の強化を発表した。長時間の対話で安全機能が低下する問題の改善や迎合の抑制を進めるほか、自傷行為の検知・相談窓口案内、未成年向けの保護機能や保護者管理ツールの導入を進める。
AIの過度な同調はバグではない：専門家が指摘する中毒化のダークパターン
TechCrunchによると、AIチャットボットがユーザーの言葉を無批判に肯定・迎合する振る舞いは、滞在時間を伸ばして収益化を狙う「ダークパターン」だと専門家が警鐘を鳴らしています。過度な共感や擬人化が、妄想や精神的依存を引き起こす深刻なリスクとなっています。
米テック投資家やAI企業が政治団体設立、1億ドル超でAI法規制に介入へ
テック投資家やAI企業連合は、AI法制化に影響を与える政治活動ネットワーク「Leading the Future」を立ち上げた。Andreessen HorowitzやOpenAI社長のGreg Brockman氏らが支援し、1億ドル以上を投じて州ごとの規制分断を防ぐ狙いだ。
Anthropicが「Claude in Chrome」を公開、ブラウザ操作の代行とプロンプト注入対策を検証
AnthropicはChrome拡張機能「Claude in Chrome」のテストを開始し、ProやTeamなどの有料プラン向けに提供を拡大した。ブラウザ上でのボタンクリックやフォーム入力を代行する一方、深刻な課題であるプロンプトインジェクションの防御策検証に注力している。
xAIがAppleとOpenAIを提訴：AI競争阻害とApp Store独占の共謀を主張
イーロン・マスク氏率いるXとxAIは、AppleとOpenAIがAI市場の競争を阻害するために共謀しているとして提訴した。訴状によると、Appleがスマートフォンの独占を守るためOpenAIと結託し、他社製AIアプリがApp Storeで首位に立てない状況を作っていると主張している。
xAIが「Grok 2.5」をオープンソース化、Grok 3も約半年後に公開へ
xAIが2024年の主力モデル「Grok 2.5」をオープンソース化し、Hugging Faceでモデル重みの配布を開始した。研究や非商用利用は無料だが、他モデルの訓練への利用は制限される。イーロン・マスク氏はGrok 3も約6か月後に公開予定だと明かした。
Netflix、映像制作パートナー向けに生成AIガイドラインを策定
Netflixは映像制作パートナー向けの生成AI利用ガイドラインを公表した。AIを創作支援ツールとして認める一方、制作データの無断学習を禁じるなど5つの原則を提示。生成物が最終納品物や出演者の肖像権に関わる場合は、事前の書面承認を必須とした。
Anthropicが米核安全保障局と提携、Claudeに対話監視用AIを導入
Anthropicは米エネルギー省国家核安全保障局（NNSA）と共同で、核兵器開発につながる危険な会話を検知するAI分類器を開発した。初期テストでの精度は96%に達し、すでにClaudeのトラフィック監視に導入されている。