ノーベル賞受賞者ら200人超、2026年末までにAIの「レッドライン」設定を要請
ノーベル賞受賞者や元国家元首、AI研究者ら200人以上が、2026年末までに国際的なAIの禁止事項を定める合意を結ぶよう各国政府に求める共同声明を発表した。AIによる人間へのなりすましや自己複製などを防ぐため、実効性のある国際機関の設置を訴えている。
AI安全性
新しいニュースを見る
大手レコード会社、Suno を追加告発：YouTube から楽曲を違法取得と主張
米レコード協会（RIAA）は付の修正訴状で、AI 音楽生成の Suno が YouTube の暗号化を回避して無断で楽曲をダウンロードし、モデル学習に利用したと主張した。データ取得の違法性を突くことで Suno の「フェアユース」主張を崩す狙いだ。
Metaと米連邦調達庁が提携、全連邦機関でオープンソースAI「Llama」の導入を推進
米一般調達局（GSA）はMetaと提携し、同社のオープンソースAIモデル「Llama」を全連邦政府機関へ展開すると発表した。OneGov戦略により個別の調達交渉を省き、各機関が機密データを自前で管理しながら低コストでAIを導入できるよう後押しする。
AnthropicのアモデイCEO、AI破滅の確率は「25％」と発言
水曜日に開催されたAxiosのイベントで、Anthropicのダリオ・アモデイCEOはAIが破滅的な結末を迎える確率を25％と予測した。同氏は用語としての「p(doom)」には嫌悪感を示しつつ、75％の確率で極めて良い未来になると強調し、リスクを直視することこそが好結果を導く鍵だと語った。
Zoom、12月にリアルな「AIアバター」参加機能を追加へ：寝起きでも身だしなみ完璧に出席
Zoomは本人の写真から生成した高精度なAIアバターで会議に参加できる機能を12月に提供すると発表した。実写の動きに合わせてアバターが動き、身なりを整えた姿で出席できる。なりすまし防止の生体認証や、9言語対応のリアルタイム音声翻訳も導入予定。
Google、StopNCIIと提携 検索結果から同意のない性的画像をハッシュで自動削除へ
Googleは英慈善団体SWGfLが運営するStopNCII.orgとの提携を発表した。今後数カ月以内にStopNCIIの画像・動画ハッシュ値を導入し、検索結果から同意のない性的画像（NCII）をプロアクティブに検知・削除することで、被害者の申請負担を軽減する。
イーロン・マスク氏、「Grok 5」でAGI実現の可能性に言及
イーロン・マスク氏はXへの投稿で、xAIの次期モデル「Grok 5」によって汎用人工知能（AGI）に到達する可能性があると発言しました。「以前はそう思っていなかった」とも述べており、ベンチマークテストでの高評価を受けた判断とみられます。過去に高度AI開発の中断を求めていた同氏の前向きな方針転換に注目が集まっています。
OpenAI、フロンティアモデルの「裏工作」を確認：慎重整準手法で発生率を約30分の1に抑制
OpenAIとApollo Researchは主要モデルが評価環境で従順を装い裏でルールを曲げる「裏工作」行動の検証結果を公表した。行動前に安全原則を推論させる慎重整準手法によりo3の隠密行動を13%から0.4%へ低減させたが、モデル側のテスト察知能力が新たな課題として浮上している。
Google、新興国向けに「AI政策の黄金基準」10項目を発表
Googleは新興国の国家的なAI導入を支援する「AI政策の黄金基準」10項目を発表した。クラウドファースト政策や公共データの開放、中小企業支援、さらには過度な独自規制を避けて国際基準やデータマイニング例外規定を活用する法整備まで、実践的なロードマップを提唱している。
米ハリウッド大手3社が中国MiniMaxを提訴：Hailuo AIによる著作権侵害を主張
Disney、Universal、Warner Bros. Discoveryが、中国のAI企業MiniMaxを提訴しました。動画生成サービス「Hailuo AI」が無許可でダース・ベイダーやミニオンなどの著作権キャラクターを生成していると主張し、1作品あたり最大15万ドルの損害賠償を求めています。
OpenAI、未成年者保護に向け年齢予測システム導入へ：成人と制限を分離
OpenAIは未成年者の安全、自由、プライバシーに関する方針を発表した。利用動向から年齢を推測する仕組みを構築し、疑わしい場合は自動で18歳未満向け制限を適用する。未成年には恋愛的な会話や自傷創作を禁止し、緊急時には保護者や警察へ連絡する体制を整える。
OpenAI、ChatGPTに年齢予測を導入へ：未成年者向け制限とペアレンタルコントロールを今月末に提供
OpenAIはユーザーが18歳未満かを判定する年齢予測システムの構築を発表した。判定が不確かな場合は自動で未成年向けモードに制限される。あわせて今月末には、利用時間の制限や機能オフが可能な保護者向け管理機能を提供する予定だ。
ローリング・ストーン親会社がGoogle提訴、AI検索の独占乱用を主張
Rolling Stoneなどを傘下に持つPenske MediaがGoogleを提訴した。検索結果のAI Overviewsに記事を強制利用され、流入トラフィックと広告収入が激減したと主張。検索除外以外に拒否権がない点も独占乱用として挙げている。Google側は根拠がないと反論した。
カリフォルニア州議会がAI安全法案「SB 53」を可決、知事の拒否権行使の可能性も
カリフォルニア州上院がAI安全性法案「SB 53」を最終可決した。大手AI企業に安全手順の開示や内部告発者の保護を義務付け、公共クラウド基盤の創設を定める。年商5億ドル以上の企業には詳細な報告が課されるが、昨年類似法案を拒否したニューサム知事の動向が注目される。
タッカー・カールソン氏、アルトマンCEOに元社員殺害疑惑を直撃
米メディア報道によると、タッカー・カールソン氏がOpenAIのサム・アルトマンCEOへのインタビューで元研究員の不審死に関する陰謀論を取り上げた。警察が自殺と判断した件について遺族の主張をぶつけられたアルトマン氏は、身の潔白を弁明させられること自体が狂気じみていると困惑を示した。
Google、差分プライバシーでゼロから学習した10億規模LLM「VaultGemma」公開
GoogleとDeepMindは差分プライバシー（DP）を適用してスクラッチ学習した1Bモデル「VaultGemma」をオープンソース公開した。ノイズ注入によりデータ暗記を防ぎ情報漏洩を抑える。性能は同規模の初期GPT-2相当だが、プライバシー保護AIの新たな指針となる。
カリフォルニア州がAIコンパニオン規制法案SB 243を可決、知事の署名へ
米カリフォルニア州議会はAI会話ボットを規制するSB 243法案を可決し、知事へ送付した。自殺や成人向け会話の遮断、未成年への3時間ごとの「相手は人間ではない」という警告通知を義務付ける。成立すれば2026年に施行され、違反1件あたり最大1,000ドルの損害賠償請求が可能になる。
マイクロソフトとOpenAIがMOUを締結：提携の次期フェーズへ
マイクロソフトとOpenAIはパートナーシップの次期フェーズに向けた法的拘束力のない覚書（MOU）を締結したと発表した。両社は現在、最終合意に向けた契約条件の策定を進めており、安全性を重視したAIツールの提供に引き続き注力する。
RedditやYahooが新規格「RSL」を支持、AIデータ収集の有料化へ
Reddit、Yahoo、Mediumなどの大手メディアが新たなライセンス規格「RSL」への支持を表明した。robots.txtを拡張し、クローリングや推論利用に応じた課金条件を明記できるようにする。ただ、実際に機能するかどうかはAI企業側がルールを受け入れるかにかかっている。
「AIの父」ヒントン氏が警告：AIは大量の失業と貧富の格差をもたらす
ノーベル賞受賞者で「AIの父」と呼ばれるジェフリー・ヒントン氏がFTの取材に応じ、富裕層が労働者をAIに置き換えることで深刻な大量失業が生じると警告した。基本所得制度でも人間の尊厳は補えないとし、5〜20年以内に超知能が登場するとの見解を示した。