OpenAI、未成年向け安全指針を発表 ChatGPTに年齢予測システムを導入へ
OpenAIは若年層ユーザーを保護するための指針「Teen Safety Blueprint」を発表した。ペアレンタルコントロールの導入に加え、ユーザーが18歳未満かを自動判別する年齢予測システムの開発を進めており、年齢に応じたChatGPTの利用環境を整える方針だ。
AI安全性
新しいニュースを見る
OpenAIがAI進展予測と提言を公開：2026年に科学的発見、安全基準の共有を要請
OpenAIはAIの進展予測と提言を発表した。2026年にはAIが小規模な科学的発見を始め、2028年以降に重大な発見が可能になると予測。現行水準のモデルには規制の重荷を避ける一方、最先端ラボ間で安全基準を共有し、サイバーセキュリティのような耐性エコシステムを築くべきだと訴えている。
ソニーAIが「FHIBE」をNatureで発表：1万枚以上の同意済み画像でAIの偏見を測定
ソニーAIの研究チームが今週、コンピュータビジョンのバイアスを測定する公平画像ベンチマーク「FHIBE」をNature誌に発表した。81の国と地域から1981人、計10318枚の同意を得た画像を収録。年齢や代名詞、血統、肌の色などを自己申告データで網羅し、顔認識などのAI偏見是正を目指す。
Anthropic、英欧で「経済未来プログラム」開始：助成金とClaudeデータ提供
AnthropicはAIが労働市場に与える影響を研究する「経済未来プログラム」をイギリスおよび欧州に拡大したと発表しました。ロンドン・スクール・オブ・エコノミクス（LSE）と連携し、研究助成金やClaudeのAPIクレジットを提供します。利用実態データによると、英国は学術研究、ドイツは製造業の保守、フランスは観光分野での利用が突出しています。
RedditがPerplexityを提訴：無断データ収集とおとり投稿による証拠を主張
RedditはPerplexityとデータ収集業者3社を相手取り、著作権保護を回避して投稿を不正取得したとして提訴した。RedditはGoogleのみに巡回を許可したおとり投稿が数時間後にPerplexity上に表示されたと主張。Perplexity側はモデル学習は行っておらず、強硬策には屈しないと反論している。
YouTube、顔や声を無断複製したAI動画の検出・削除申請機能を提供開始
YouTubeはパートナープログラムのクリエイター向けにAI肖像検出技術の提供を開始した。本人の顔や音声を無断使用したAI動画を自動検出し、身元確認を済ませたクリエイターは削除や著作権侵害の申し立てを行える。深刻化するディープフェイク被害から身を守る実質的な防衛策となる。
Anthropic CEOが声明発表：年商70億ドルに急伸、米政府との協調を強調
Anthropic のダリオ・アモデイ CEO は声明を発表し、売上ランレートが 9 か月で 10 億ドルから 70 億ドルへ急拡大したと公表しました。同氏は連邦政府との大型契約や全米共通基準の支持を掲げ、モデルの政治的偏向やスタートアップ阻害といった批判を否定。米国の技術的優位を守る姿勢を明確にしています。
Sora 2で「ブレイキング・バッド」俳優の無断ディープフェイク、OpenAIが謝罪
OpenAIと米俳優組合SAG-AFTRA、俳優ブライアン・クランストン氏が共同声明を発表した。本人の同意なくSora 2で生成された偽動画に対し、OpenAIは陳謝した上で肖像保護の安全策を強化すると表明。組合側は法整備の必要性を改めて訴えた。
OpenAI、Soraでのキング牧師の動画生成を停止 遺族側の要請受け
米OpenAIは動画生成AI「Sora」でマーティン・ルーサー・キング・ジュニア牧師の肖像動画を生成する機能を一時停止したと発表した。不敬な動画の生成が相次ぎ遺族が抗議していた。同社は公人の遺産管理者からの要請があれば、Soraでの肖像利用を停止する枠組みを導入する。
Cisco、AI生成コード向けオープンソース安全フレームワーク「Project CodeGuard」を発表
CiscoはAIプログラミングツールが生成するコードのセキュリティを担保するオープンソース枠組み「Project CodeGuard」を発表した。生成前・生成中・生成後の全ライフサイクルに介入し、ハードコードされた認証情報や脆弱性を自動検知・ブロックする。完全な安全を保証するものではないが、初歩的なバグの混入を防ぐ。
NY州、家賃のAI価格カルテルを禁止 全米初の州法成立
ニューヨーク州は、家主がアルゴリズムソフトを使って家賃を協調設定することを禁止する法案を成立させた。全米初の州規模の規制で、RealPageなどのソフトを利用して賃料を決める行為自体が価格談合と見なされる。新法は60日後に施行される。
Pinterest、「AI生成画像」の表示を減らす新機能を導入
Pinterestはフィード上に表示される生成AI画像の量をユーザー自身で制限できる新コントロールを発表した。美容、アート、ファッション、インテリアといったAI生成が急増しているカテゴリごとに設定可能。AIによる低品質コンテンツへの不満が高まる中、表示フィードの選択権をユーザーに委ねる。
ChatGPTの制限緩和へ、4o風の性格設定や成人向けコンテンツ解禁を予告
OpenAIのサム・アルトマンCEOはChatGPTの利用制限を安全に緩和していく方針を明かした。数週間以内に4oのような親しみやすい性格や絵文字の多用を選択可能にする新版を提供するほか、12月には年齢確認を導入し、認証された成人向けに成人向けコンテンツの利用も認める予定だ。
マイクロソフト、実環境模したAIセキュリティ評価「ExCyTIn-Bench」公開
MicrosoftはAIエージェントの脅威調査能力を評価するオープンソースベンチマーク「ExCyTIn-Bench」を公開した。Azure SOCを再現し57のログテーブルを用いて多段階の調査能力を検証。高推論版GPT-5が56.2%で首位となった。
OpenAI、メンタルヘルスを助言する「福祉とAI専門家委員会」を設立
OpenAIはChatGPTやSoraの設計指針として「福祉とAIに関する専門家委員会」を発足させた。心理学や精神医学の専門家を招き、特に若年層のメンタルヘルスや感情への影響を検証し、保護者機能や緊急時の対応メッセージ改善に役立てる。
AnthropicがAI経済影響への政策提言を発表：トークン課税も視野に
Anthropicは経済学者らと策定したAIによる経済・雇用影響への政策提言を公開した。影響の規模に応じて3段階に分類し、労働者の再教育支援やインフラ許認可の加速から、深刻な雇用減を見据えたトークン課税やソブリン・ウエルス・ファンドによるAI投資まで幅広い選択肢を提示している。
カリフォルニア州が年齢確認法を可決、新端末設定時の年齢入力を義務付けへ
米カリフォルニア州のニューサム知事がデジタル年齢確認法案（AB 1043）に署名した。2027年1月より、スマホやPCの初期設定時にOSやアプリストアがユーザーの年齢入力を求めることが義務付けられる。身分証提出は不要で、GoogleやMetaも法案支持を表明している。
カリフォルニア州がAI規制新法に署名：相談AIの自傷防止義務化やディープフェイク罰則強化へ
Governor Newsomは子どもの安全保護とAI規制を強化する一連の法案に署名した。対話型AIに自傷行為の検知や未成年者への休憩通知を義務付けるほか、ディープフェイクポルノの賠償請求を最大25万ドルに引き上げ、AIの「自律的動作」を理由とした免責も認めない方針を打ち出した。
OpenAI、ChatGPTの政治的偏向を測定・低減する新評価手法を公開
OpenAIはChatGPTなどの大規模言語モデルにおける政治的偏向を定義・評価する新フレームワークを発表した。100のトピックと500のプロンプトで検証したところ、実環境で偏向が見られた回答は0.01%未満だった。一方、感情的なプロンプトには中立性を保ちにくい課題も残る。
Anthropicが発表、わずか250件の悪意ある文書で13Bモデルの毒入れが可能に
Anthropicや英AISIなどの研究チームは、LLMへのデータ汚染攻撃に関する研究を発表した。モデルの規模に関係なく、攻撃の成否はデータの割合ではなく絶対数に依存し、わずか250件の悪意ある文書を混ぜるだけでバックドアの埋め込みに成功した。大型モデルほど汚染しにくいという前提を覆す結果だ。