教皇レオ14世、「過度に親身な」AIに警告 感情的依存の規制を提唱
ローマ教皇レオ14世は常時利用可能で過度に親密なAIチャットボットが人間の感情を操る恐れがあると警告し、感情的依存を防ぐ規制を求めた。また、AI生成コンテンツの明示によるジャーナリストの権利保護や、少数のテック企業によるアルゴリズム独占への懸念も表明した。
AI安全性
新しいニュースを見る
RunwayがGen-4.5の画像から動画生成を公開、見分けられた人はわずか10%
RunwayはGen-4.5に画像から動画を生成する新機能を追加した。実験では生成動画の真偽を見分けられた人はわずか10%だったという。Artificial Analysisの首位に立つ同モデルについて、同社はAIメディアが社会的「臨界点」に達したと指摘している。
Anthropicが新「Claude憲法」を公開：AIの意識に踏み込み、自社の不当な指示への拒否権も明記
AnthropicはClaudeの行動規範を定めた新たな「Claude憲法」をCC0ライセンスで全面公開した。規則の羅列ではなく安全・倫理・有用性の優先順位と理由をAI自身に向けて記述。AIの意識や道徳的地位の可能性に言及したほか、不当な要求であれば自社の指示であっても拒否するよう定めている。
YouTube、クリエイター自身の「AI分身」でShorts動画を作成可能に
YouTubeはクリエイターが自身のAI肖像を使ってShortsを生成できる機能を年内に提供すると発表しました。テキストからのミニゲーム生成も予定されており、無断での悪用を防ぐ肖像管理ツールも同時に提供されます。現在は未提供です。
Google、Geminiに個人データ連携機能「Personal Intelligence」追加
GoogleはGeminiがGmailやGoogleフォト、YouTubeなどのデータを横断して推論する「Personal Intelligence」ベータ版を発表した。参照元を指定しなくてもメールや写真から必要な詳細を自動で引き出す。初期設定はオフで学習にも直接利用されず、米国の有料登録者から順次提供される。
コロンビア大がシリコン製ロボット顔を開発：YouTubeを見て自律的に口パクを習得
コロンビア工科大学の研究チームは、26 個の超小型モーターを備えたシリコン製ロボット顔を開発した。事前に動きをプログラムするのではなく、鏡で自身の動きを把握した後に YouTube 動画を見て音声と唇の動きを対応付けた。11 言語に対応し、ChatGPT と連携して自然な対話を実現する。
YouTube、新規ユーザーへの推薦動画の2割超が「AIゴミ動画」 米調査
動画編集サービスKapwingの調査によると、YouTubeの推薦アルゴリズムが新規ユーザーに提示する動画の20％以上が低品質な生成AI動画（AI slop）であることが分かった。新規アカウントの初期500件中104件が該当し、こうしたAI量産チャンネルは年間約1億1700万ドルの収益を上げていると推計されている。
OpenAI、「準備責任者」を募集 AIの脆弱性発見能力や生物リスクに対応へ
OpenAIのサム・アルトマンCEOはAIの急速な進化に伴うリスクに対処する「準備責任者（Head of Preparedness）」の採用を発表した。モデルが重大なセキュリティ脆弱性を発見し始める中、サイバー防衛や自己改善型システムの安全基準策定を担う。
OpenAI、ChatGPT Atlasのプロンプトインジェクション対策を強化
OpenAIはChatGPT Atlasのブラウザエージェント向けセキュリティ更新を発表した。強化学習で訓練した自動レッドチームを活用して未知のプロンプトインジェクション脆弱性を自ら発見し、敵対的訓練を施した新モデルを全ユーザーに展開した。
生成AI使用が発覚した『Clair Obscur』、インディーゲーム賞のGOTY剥奪
Indie Game Awardsは『Clair Obscur: Expedition 33』のゲームオブザイヤーなど2部門の受賞を取り消したと発表した。開発に生成AIが使われていたことが判明したためで、同アワードはAI使用を一切認めていない。開発元は検証用の仮素材だったと釈明したが、賞は次点作品へ譲渡された。
ニューヨーク州がAI安全規制法「RAISE法」に署名、事故報告を義務化
ニューヨーク州のホークル知事が「RAISE法」に署名し、カリフォルニア州に続くAI安全規制を成立させました。大規模AI開発企業に対し、安全プロトコルの公開とインシデント発生後72時間以内の報告を義務付け、違反には最大300万ドルの罰金を科します。OpenAIやAnthropicは支持を表明しています。
Google DeepMind、解釈可能性ツール群「Gemma Scope 2」をオープンソース公開
Google DeepMind は言語モデルの内部動作を可視化する「Gemma Scope 2」を公開した。270M から 27B までの Gemma 3 ファミリー全体に対応し、SAE やトランスコーダーで内部推論を追跡できる。ハルシネーションや脱獄などの安全課題の解明に役立つ。
Anthropic、AIの挙動を自動評価するOSS「Bloom」公開
Anthropic は AI モデルのアライメント検証を自動化するオープンソースツール「Bloom」を公開した。検証したい問題行動を記述するだけで、Bloom が多様な対話シナリオを動的に生成して発生率をスコア化する。固定テストセットの汚染を防ぎ、評価作成期間を数日に短縮できる。
Google、GeminiアプリでAI生成動画の検証機能を提供開始
GoogleはGeminiアプリに動画の真偽判定機能を追加した。90秒以内かつ100MB以下の動画をアップロードして尋ねると、音声と映像トラックの不可視SynthID透かしをスキャンし、AI生成された区間を秒単位で回答する。Gemini対応の全地域・全言語で利用できる。
OpenAIがモデル規範を改定：ChatGPTに10代向けセーフティガイドラインを導入
OpenAIは「Model Spec」を改定し、13〜17歳の利用者を対象とする「U18原則」を追加した。自傷行為や疑似恋愛チャットなどを制限し、必要に応じて現実の支援先を促す。現在、年齢予測モデルのテストも進めており、年齢が確認できない場合は自動的に未成年モードが適用される。
OpenAIが「GPT-5.2-Codex」公開、大規模リファクタとサイバーセキュリティを強化
OpenAIはソフトウェア開発とサイバーセキュリティに特化したエージェント型コーディングモデル「GPT-5.2-Codex」を公開した。コンテキスト圧縮による大規模リファクタリング対応やWindows環境の最適化が図られている。ChatGPT有料ユーザー向けに提供を開始し、APIも順次提供予定。
Anthropic、AI自販機実験の第2フェーズを公開：AI店員にAIのCEOを導入
AnthropicはオフィスでClaudeに売店を運営させる実験「Project Vend」の第2フェーズを公開した。Claude Sonnet 4.0/4.5への刷新やCRMツールの導入、AIのCEO役配置により黒字化を達成したものの、従業員に騙されて違法な先物取引に乗るなど課題も残る。
YouTube、生成AIによる「偽映画予告」チャンネル2件を停止 再生10億回超
YouTubeは、生成AI画像を組み合わせて偽の映画予告編を量産していた大手チャンネル「Screen Culture」と「KH Studio」を規約違反で停止した。両チャンネルは合計で200万以上の登録者と10億回以上の再生回数を集めていたが、免責表記を外したことでスパムや誤解を招くメタデータに関するポリシー違反と判断された。
米サンダース上院議員、AIデータセンターの新規建設凍結を要求
バーニー・サンダース米上院議員はAIデータセンターの新規建設を一時停止すべきだと表明した。膨大な電力と水を消費する施設のコストが市民に転嫁される一方、富が一部のIT幹部に集中していると指摘。規制なきAI開発を見直し、利益を社会全体に還元するための猶予が必要だと訴えている。
ジョセフ・ゴードン＝レヴィット、AIの非倫理的慣行に対抗する連合を設立
俳優のジョセフ・ゴードン＝レヴィット氏が「Creators Coalition on AI」の設立を発表した。大手 AI 企業による非倫理的なビジネス慣行から創作者の権利を守るため、あらゆる分野のクリエイターに結集と賛同を呼びかけている。