故ジョージ・カーリンの遺族、AI偽動画めぐる訴訟でポッドキャスト側と和解
伝説的コメディアン故ジョージ・カーリンの遺族は火曜日、AIで音声を模倣した偽特番を公開したポッドキャスト「Dudesy」の制作者と和解した。被告側は動画を完全削除し、今後カーリンの声や肖像を使用しないことに合意。セレブのAIディープフェイクをめぐる米国初の訴訟例として注目された。
AI安全性
新しいニュースを見る
Anthropicが「多重ショット脱獄」を解明、文脈の肥大化でAIの倫理制御が無効化
Anthropicの研究陣は長大化したコンテキスト悪用による「メニーショット脱獄」手法を発表した。プロンプト内に数十のQA例を埋め込むことで文脈内学習が働き、爆弾製造など危険な指示も従わせてしまう。同社は競合へ情報を共有し、入力段階での分類フィルターによる対策を進めている。
ビリー・アイリッシュら音楽家200人超、AIによる無断学習の停止を要求
ビリー・アイリッシュやニッキー・ミナージュら200人以上の著名アーティストが公開書簡に署名した。テック企業に対し、無許可で楽曲をAIモデルの学習に使い、声や肖像を盗用する「捕食的な行為」を直ちにやめるよう求めている。
ジョン・スチュワート氏がAI過剰宣伝を批判、Appleの話題規制も暴露
ジョン・スチュワート氏が「The Daily Show」でテック企業によるAIの過剰な宣伝を風刺しました。さらにFTCのリナ・カーン委員長との対談で、Apple TV+の番組制作時にAppleからAIの話題やカーン氏の取材を禁じられていたことを明かしました。
OpenAI、15秒で声を複製する「Voice Engine」公開 悪用リスク懸念で一般公開は見送り
OpenAI はわずか 15 秒の音声サンプルから本人そっくりの音声を生成できる「Voice Engine」のテスト結果を発表した。教育や医療向けに限定提供されているが、ディープフェイクなどの悪用リスクを警戒し、一般への公開は見送られている。
ニューヨーク市、地下鉄改札でAI銃探知機を試験導入へ
ニューヨーク市のエリック・アダムズ市長は、地下鉄の改札口でAI銃探知スキャナーの試験運用を90日後に開始すると発表した。導入予定のEvolv社製品は傘を銃と誤認するなどの誤作動が指摘されており、FTCやSECの調査と集団訴訟に直面している。
米政府、全連邦機関に「最高AI責任者」の設置を義務付け
米行政管理予算局はすべての連邦機関に最高AI責任者（CAIO）の任命と統治委員会の設置を義務付ける新指針を発表した。各機関は利用中のAI一覧とリスク評価を毎年提出する必要があり、差別防止などの保護基準を満たせないAIは即座に停止が求められる。
GoogleのAI検索「SGE」、詐欺サイトや不正拡張機能を推奨する問題が発覚
BleepingComputerの報道によると、Googleの生成AI検索「SGE」の回答内に詐欺サイトが推薦されていることが判明した。SEOポイズニングにより、不正な通知登録や偽のウイルス警告へリダイレクトされる。Googleは報告された事例を削除したと説明している。
米テネシー州、AIによる音声の無断模倣を禁止する全米初の法案に署名
テネシー州知事は木曜日、AIによる音声の無断複製から音楽家を守る「ELVIS法」に署名した。全米の州として初の試みで、許諾を得ずにAIでアーティストの声を模倣する行為を禁止する。新法は7月1日に施行される予定だ。
OpenAIのGPT Store、スパムや著作権侵害ツールが横行
TechCrunchの調査により、OpenAI公式の「GPT Store」に著作権侵害やAI検知ツールの回避をうたうスパムGPTが溢れている実態が明らかになりました。著名人の無断模倣や外部有料サービスへの誘導ツールも多数見つかっており、OpenAIが掲げる審査体制の実効性が問われています。
Googleが「VLOGGER」発表：写真1枚と音声から身振り手振り付きの動画を自動生成
Googleの研究チームがマルチモーダル拡散モデル「VLOGGER」を発表した。人物の写真1枚と音声クリップを入力するだけで、発話に合わせて表情だけでなく顔の向きや手振りを交えたリアルな動画を生成できる。個別学習が不要な点が強みだが、現時点では短尺で背景が固定されるなどの制約もある。
YouTube、リアルな生成AI動画のラベル付けを義務化 違反者は収益化停止も
YouTubeはクリエイターに対し、AIで生成・改変したリアルな動画を投稿する際のラベル明記を義務付けた。実在の人物の言動を捏造した映像などが対象で、概要欄や画面上に識別ラベルが表示される。台本作成などの補助利用は免除されるが、度重なる不申告には動画削除や収益化剥奪の罰則が科される。
米FTC、RedditのAIデータ販売取引を調査：IPO直前に規制のメス
RedditはAI学習用としてGoogleなどに投稿データを提供する契約について、米連邦取引委員会（FTC）から問合せを受けたと開示した。同社はIPOに向けて2億300万ドルの収益を見込んでいたが、ユーザー投稿をAI学習用に外部販売する行為に規制当局の監視が入った形だ。
Adobe Firefly、歴史描写でGoogle Geminiと同様の偏向問題が発生
Semaforの検証により、Adobeの画像生成AI「Firefly」がGoogle Geminiと同様に、第二次大戦の黒人ナチス兵士など史実に反する画像を生成する過度な多様性補正の不具合を抱えていることが明らかになった。著作権に配慮した画像のみで学習したAdobeでも同様の問題が発生したことは、偏見防止プロンプトの調整が業界全体の共通課題であることを示している。
欧州議会、世界初の包括的な「AI規制法」を可決 リスク別に4段階規制
欧州議会は世界初となる包括的な人工知能規制案「AI法」を賛成523票で可決した。AIシステムをリスクに応じて4段階に分類し、許容できないリスクのある用途は禁止される。5月に正式発効し、2025年以降に段階的適用が始まる見通しだ。
Google、Geminiでの選挙関連の質問をグローバルで制限へ
Google は選挙を控えた国々を対象に、Gemini が選挙関連の質問に回答することを制限し始めたと明らかにした。米国やインドなどで適用が始まっており、政党や候補者について尋ねると従来の Google 検索を促す。生成 AI による誤情報や政治的トラブルを防ぐための予防的措置だ。
バイデン米大統領、一般教書演説で「AI音声のなりすまし」禁止を訴え
バイデン米大統領は木曜夜の一般教書演説で、AIによる音声のなりすまし禁止を呼びかけました。具体的な罰則や規制内容、エンタメ業界への適用範囲は明かしていませんが、ハリウッドのストライキに続き、生成音声の悪用が本格的な政策課題へと浮上しています。
OpenAI、調査完了でサム・アルトマン氏が取締役会に復帰
OpenAI は解任劇に関する外部調査が完了したと発表し、サム・アルトマン CEO の取締役会復帰を正式に決定した。調査では安全性や財務の問題ではなく、前取締役会との信頼関係の破綻が原因と結論付けられた。併せて新取締役 3 名を迎え、内部通報制度の導入など企業統治の強化を図る。
Midjourney、競合Stability AIの全社員を無期限BAN データ収集による障害を理由に
Midjourneyは画像生成AIの競合であるStability AIの全従業員アカウントを無期限で利用停止にしたと発表した。3月2日に起きた24時間のサービス障害を調査したところ、Stability AIの担当者がプロンプトと画像データの大量取得を試みていたことが判明。サーバー停止を招く過剰なスクレイピングを行った企業は全社員アクセス禁止にする新方針も打ち出した。
米陸軍が戦争ゲームでGPT-4をテスト：作戦立案で戦果出すも死傷者が増加
報道によると、米陸軍研究所はOpenAIの「GPT-4 Turbo」と「GPT-4 Vision」を軍事シミュレーションゲームに導入し、作戦立案の支援能力をテストしました。GPT-4は従来モデルより優れた作戦を提示した一方、目標達成の過程でより多くの死傷者を出す結果となり、軍事AIの倫理的懸念が浮き彫りになっています。