Meta、ハリウッド俳優の声獲得へ数百万ドル提示か：AI音声機能向けに交渉中
報道によると、Metaはジュディ・デンチやオークワフィナら米人気俳優に対し、AIアシスタント向け音声のライセンス契約として数百万ドル規模の提示を行っている。9月のConnectでの発表を目指し、Ray-BanスマートグラスやSNS全体への搭載が計画されているという。
AI安全性
新しいニュースを見る
音楽生成AI「Suno」、全米レコード協会の著作権侵害訴訟に反論
音楽生成AI「Suno」は全米レコード協会（RIAA）による著作権侵害訴訟に対し反論声明を発表しました。ネット上の音源で学習している事実を認めつつ、「学習は侵害ではない」と主張。モデルの訓練を「子どもがロックを聴いて作曲を覚える過程」に例え、既存曲のコピーを防ぐガードレールも機能していると強調しました。
アルトマン解任劇の立役者、元OpenAI取締役が米首都でAI政策の重鎮に
ブルームバーグ報道によると、昨年サム・アルトマン氏の解任を主導した元OpenAI取締役ヘレン・トナー氏が、ワシントンDCで信頼されるAI専門家としての地位を築いている。シリコンバレーの騒動を経て、議会や規制当局にAIガバナンスを助言している。
OpenAI、次世代モデルの事前安全テストで米AI安全研究所と連携へ
木曜夜、OpenAIのサム・アルトマンCEOは、米人工知能安全研究所に対し次期主要モデルへの早期アクセスを提供する協定を進めていると表明しました。安全対策の軽視批判をかわす狙いがあるとみられますが、具体的な提供条件などの詳細は明かされていません。
Google、「この画像について」をかこって検索やレンズに拡大 AI生成判定も手軽に
Googleは画像の出所や背景を確認できる「この画像について」機能を「かこって検索」と「Google レンズ」に展開した。画面上の画像を囲むだけで、Webでの使われ方やメタデータ、SynthID透かしによるAI生成判定を確認できる。世界40言語に対応する。
Google、Gemma 2の内部構造を可視化する「Gemma Scope」を公開
Googleは大規模言語モデルの内部メカニズムを解明するためのツール群「Gemma Scope」をオープンソース公開した。Gemma 2の2Bおよび9B向けに400以上のスパースオートエンコーダーを提供し、3000万以上の特徴量を抽出可能にする。ハルシネーションや欺瞞といった安全リスクの解明と対策を後押しする。
OpenAI、米上院のAI関連3法案を支持 安全研究所の法制化後押し
OpenAIは米上院で審議中の3つのAI法案への支持を表明しました。法案には米AI安全性研究所を連邦基準策定機関として正式承認することや教育支援が盛り込まれており、将来の規制論議で主導権を握る狙いがあるとみられます。
米ホワイトハウス、現時点でオープンソースAIを規制する必要はないとの報告書を公表
米商務省NTIAはモデルの重みを公開するオープンソースAIについて、現時点で制限を設ける必要はないとする報告書を発表した。オープン化による恩恵を認めつつも、リスクの監視は継続し、脅威が高まれば即座に対処できるよう備える方針だ。
マスク氏、ハリス氏のAIディープフェイク動画をXに投稿 規約違反の疑い
イーロン・マスク氏はXで、ハリス副大統領の音声をAIで改ざんしたパロディ動画を投稿した。元動画にあった「パロディ」の注記を省いたため、誤認を招く合成メディアを禁じるX自身の規約に違反していると批判され、議員からも反発を招いている。
パリオリンピックでAIはどう使われるのか：審判支援から誹謗中傷対策まで
Inverseが報じたところによると、2024年パリオリンピックはIOCの「オリンピックAIアジェンダ」導入後初の大会となった。選手の動作解析や怪我予防、体操競技の採点サポートに加え、SNS上の誹謗中傷コメントの自動検知・削除など、大会運営の広範な領域でAI技術が活用されている。
X、ユーザー投稿をGrokの学習にデフォルト利用か 英欧規制当局が調査へ
Xがユーザーの投稿やGrokとの対話データをAI学習に利用する設定を初期状態でオンにしていたことが判明しました。事前チェックによる同意取得はGDPR違反の疑いがあり、英ICOとアイルランドDPCが調査に着手。拒否設定はWeb版から行う必要があります。
Appleが米ホワイトハウスのAI安全性自主協定に署名
米ホワイトハウスはAppleが安全で信頼性の高いAI開発に向けた自主的な安全協定に署名したと発表した。OpenAIやGoogleなど15社に続く動きで、公開前のレッドチームテストやモデル重みの保護、透かし機能の導入が求められる。Apple Intelligenceの本格展開を前に、規制当局へ歩み寄る姿勢を示した形だ。
Anthropicのクローラー「ClaudeBot」、iFixitを24時間で100万回近くアクセス 利用規約無視と批判
修理情報サイトiFixitのCEOが、Anthropicのデータ収集ボット「ClaudeBot」が24時間でサイトへ約100万回アクセスし、AI学習禁止の利用規約を無視したと抗議した。Anthropicはrobots.txtにのみ従うと回答。規約による意思表示が効かず、遮断しか自衛手段がない現状を浮き彫りにした。
AI動画のRunway、YouTubeや海賊版映画を無断学習か 内部リスト流出
米404 Mediaの報道によると、AI動画生成ツール「Gen-3」を手がけるRunwayが、数千ものYouTube動画や海賊版映画を無断スクレイピングして学習に利用していた内部データが流出しました。GoogleやNvidiaから出資を受ける同社のデータ収集実態が明るみに出た形です。
Reddit、未契約の検索エンジンとAIクローラーを遮断 最新結果はGoogleのみに
報道によると、Redditは対価を支払わない検索エンジンによる最新コンテンツの収集を遮断した。約6000万ドルのAI学習契約を結んだGoogleのみが最新の投稿を表示でき、Bingなどは除外されている。Reddit側はAI利用を巡る合意が取れていないためと説明している。
OpenAI、人手不要の安全性アライメント手法「RBR」を解説
OpenAIは、ルールベース報酬（RBR）を用いてモデルの安全性を高める手法を公開した。明確な評価ルールを設けて固定モデルに採点させることで、膨大な人間によるアノテーション作業を削減する。正常なプロンプトの過剰拒否を抑えつつ、安全ガイドラインの変更にも柔軟に対応できる。
米議員団がOpenAIに書簡、次期モデルの政府による事前審査を要求
7月、米上院議員らがOpenAIのサム・アルトマンCEO宛てに書簡を送付し、次期基盤モデルのリリース前に米政府機関によるテストや事前審査を受け入れるよう求めた。GPT-4 Omniの公開を急ぎ安全基準を緩めたとする内部告発を受けた動きで、計算資源の20%を安全研究に充てる誓約なども求めている。
カリフォルニア州がAI規制法案を推進、大手テック企業は猛反発
カリフォルニア州議会は、一定規模以上のAIモデルに対し、生物兵器や電力網ハッキングなど「破滅的リスク」の事前検証を義務付ける法案の審議を進めています。GoogleやMetaなどの大手テック企業は、技術的に実現不可能で開発者に不当な負担を強いると反発。トランプ陣営が連邦規制の緩和を掲げる中、規制をめぐる攻防が州レベルで激化しています。
Figma、AIがAppleの天気アプリを模倣した理由を説明：直前の素材審査不足が原因
Figmaは生成AI機能「Make Designs」がAppleの天気アプリ酷似のデザインを出力した問題について公式声明を発表しました。原因はモデルの学習ではなく、Config直前に追加したデザインシステムのコンポーネントや参考画面の審査不足だったと説明。該当機能を停止し、QA工程の改善を進めています。
AIベンチマークの形骸化を検証：MMLUのスコアが実力を示せない理由
The MarkupはGoogleやMetaが誇示するMMLUなどのAIベンチマークに重大な欠陥があると報じました。多くのテストは古く、一般のネット投稿から収集された問題が中心で、実際の推論力やハルシネーション抑制力を測れていないと専門家が警告しています。