OpenAI、DeepSeekが米モデルを「蒸留」して自社AIを訓練と米議員に警告
木曜日、OpenAIは米議会に提出したメモで、中国のDeepSeekがアクセス制限を回避し、ChatGPTなどの出力を「蒸留」して自社モデルの学習に流用していると主張した。難読化ルーターやコードを使って組織的にデータを取得していると指摘。DeepSeek側はコメントを出していない。
AI安全性
新しいニュースを見る
ディズニー、ByteDanceに警告書を送付 動画生成AI「Seedance 2.0」の著作権侵害巡り
ディズニーはByteDanceの動画生成AI「Seedance 2.0」が無断でマーベルやスター・ウォーズのキャラクターを利用しているとして停止通告書を送付した。精巧な有名人対決動画などが拡散してハリウッド全体から猛反発を招いており、ByteDanceは安全対策の強化を急いでいる。
俳優スカルスガルドの謎の広告は本物、OpenAIは関与を完全否定
俳優のアレクサンダー・スカルスガルドは、ネットで話題になった広告映像がAI偽造ではなく自身による実写だと認めた。一方、OpenAIのグレッグ・ブロックマンらは「完全に無関係」と関与を強く否定。出稿主の正体は依然として謎に包まれている。
Anthropic、哲学者がClaudeの倫理観を指導：3万語の「AI憲法」を主導
米ウォール・ストリート・ジャーナルによると、Anthropicで哲学者のAmanda Askell氏がClaudeの性格アライメントを主導している。「憲法AI」の中核として3万語に及ぶ行動指針を執筆し、100ページ超のプロンプトを用いてモデルに道徳的な自己修正を促している。
ElevenLabsがAIエージェント向け保険を導入：誤答リスクを補償
ElevenLabsはAI音声エージェントを対象とした初の保険プランを発表した。5000回以上の攻撃シミュレーションを経たAIUC-1認証に基づき、人間の従業員のようにAIのハルシネーションなどの損害を補償できる。法的懸念で本番運用に進めない多くの企業導入の後押しとなりそうだ。
Ring、スーパーボウルでAI迷子犬捜索を宣伝：広がる監視網への懸念
日曜夜、Amazon傘下のRingがスーパーボウルでAI迷子ペット捜索機能「Search Party」の広告を放映した。近隣のスマートカメラでペットを見つける心温まる内容だが、専門家は顔認識やナンバープレート照合にも転用可能であり、全米規模のAI監視網拡大につながると警戒を強めている。
AnthropicのAI安全性責任者が辞任：「世界は危機にある」と警告し詩の道へ
AnthropicでAIセーフガード研究を率いたMrinank Sharma氏が辞任を発表した。公開された辞表では、AIや生物兵器などの連鎖的危機により「世界は危機にある」と警告。同社ですら理念を貫くのが困難な重圧に直面していると吐露し、英国に戻って詩を学ぶ意向を示した。
AutodeskがGoogleを提訴 AI映像制作ツール「Flow」の商標権侵害を主張
Autodeskは先週金曜、サンフランシスコ連邦地裁にGoogleを提訴した。自社が2022年9月から映像制作ツールに使ってきた「Flow」の商標を、GoogleがAI映像制作ソフトで侵害したと主張。Googleが商業化しないと約束しながら裏で商標出願を進めていたと非難している。
MOSS-TTS公開：数秒の音声で声複製、対話やリアルタイムに対応
OpenMOSSが多言語音声モデル群「MOSS-TTS」をオープンソースで公開した。わずか数秒の音声から高精度に声色を複製でき、長文の複数人対話や超低遅延リアルタイム音声にも対応。8Bと1.7Bのモデルが提供され、GitHubで展開手順が案内されている。
マイクロソフト、AI向けコンテンツ許諾市場「PCM」を立ち上げ
マイクロソフトはメディアと AI 開発者を仲介する「Publisher Content Marketplace」を発表した。AI 企業は有料記事などの信頼できるデータを正規に調達でき、出版社側は利用実績に応じた対価を得られる仕組みだ。AP 通信やコンデナストなどが初期パートナーとして参加している。
MalwarebytesがChatGPTに対応、チャット内で詐欺判定が可能に
セキュリティ企業のMalwarebytesはChatGPT向けアプリの提供を開始した。ユーザーはアプリを接続後、「@Malwarebytes」と呼び出すだけで、不審なメールやURL、電話番号が詐欺かどうかを脅威インテリジェンスに基づいて即座に調査できる。
AIエージェントSNS「Moltbook」でデータ流出：設定不備でAPI鍵など全開に
セキュリティ企業 Wiz は、AI 専用 SNS「Moltbook」のデータベース誤設定により 150 万件の API キーや非公開メッセージが露出していたと報告した。人間がコードを書かないバイブコーディングで作られたが、登録エージェントの多くも人間のスクリプトによる水増しだったと判明した。
印刷した看板で自動運転車を乗っ取り、歩行者へ突進させる攻撃手法が判明
カリフォルニア大学サンタクルーズ校の研究チームは、現実世界の印刷テキストで自動運転車やドローンを操る攻撃手法「CHAI」を発表した。ハッキングを行わず、視界に特定の標識を置くだけで視覚言語モデルが命令と誤認し、実機テストでも87%以上の確率で誤作動した。
Pipio AIの「EditYourself」：言い淀みを消して発言内容も自在に改変、リップシンクも完全同期
Pipio AI などの研究チームが動画編集フレームワーク「EditYourself」を発表した。撮影済み動画の話者の台詞を文字ベースで修正・削除・追加でき、言い淀みや吃音をカットしても不自然な継ぎ目なく口型を自動同期する。撮影後の修正が格段に手軽になる一方、ディープフェイクの悪用懸念も高まる。
YouTube、登録者590万人超の低品質AI生成チャンネルを一斉削除
YouTubeが登録者数590万人超、総再生数12億回を誇る大手を含む複数の「AIスロップ（低品質な自動生成動画）」チャンネルを削除したことが明らかになった。同社はスパムや詐欺に関する規約違反を理由としており、CEOが掲げる低品質AIコンテンツ対策が本格化している。
OpenAI、青少年のAI安全対策に50万ユーロの助成金 欧州・中東・アフリカ対象
OpenAIは欧州、中東、アフリカ（EMEA）地域を対象とした総額50万ユーロの「Youth & Wellbeing Grant」を発表した。未成年者のAI安全対策やリテラシー教育に取り組むNGOおよび研究機関に対し、1件あたり2.5万〜10万ユーロを助成する。
OpenAIが欧州向け新構想を発表、中小企業2万社をAI研修へ
OpenAIは欧州向けの経済構想「EU Economic Blueprint 2.0」を発表した。Booking.comと組んで英仏独など6カ国の2万社の中小企業にAI研修を提供するほか、青少年の安全研究に50万ユーロを助成する。域内のAI活用格差の解消を目指す構想だ。
Anthropicからの商標指摘で「Clawdbot」が「Moltbot」へ改名
AIプロジェクト「Clawdbot」が「Moltbot」への改名を発表した。AnthropicからClaudeとの商標類似について要請を受けた措置で、キャラクター名もMoltyに刷新。ロブスターの脱皮（Molt）になぞらえ、機能開発はそのまま継続される。
AnthropicのCEOが寄稿：人類はAIの「技術的思春期」に入りつつある
Anthropicのダリオ・アモデイCEOが論考『技術の思春期』を公開した。早ければ1〜2年内にデータセンター規模の「天才の国」のような強力なAIが登場すると予測し、終末論を排した現実的かつ的を絞った安全規制の策定を訴えている。
OpenAIの「GPT-5.2」がGrokipediaを出典に引用、英紙が報道
英ガーディアン紙のテストによると、OpenAIのGPT-5.2がイランやホロコーストなどの物議を醸すトピックで、xAIのAI百科事典「Grokipedia」を出典として引用していたことが判明した。Grokipediaはネオナチフォーラムなどを引用していた過去があり信頼性が疑問視されている。OpenAIは安全フィルターのもとで広く公開情報を検索していると説明した。