OpenAI、米大統領選を標的にしたイランの影響力工作アカウントを停止
OpenAIは米大統領選などの世論誘導を狙ったイランの秘密工作グループ「Storm-2035」のChatGPTアカウントを停止しました。AIで長文記事やSNS投稿を自動生成していましたが、実際のユーザーによる拡散や反応はほぼ皆無だったと報告されています。
AI安全性
新しいニュースを見る
米カリフォルニア州、AI安全法案「SB 1047」を緩和 Anthropicの提案受け入れ
米カリフォルニア州はAI規制法案「SB 1047」の修正案を発表した。Anthropicなどの意見を取り入れ、大惨事発生前の事前提訴権や刑事責任を削除し、オープンソースモデルの微調者への免責を盛り込んだ。法案は州議会での最終採決に進む。
Grammarlyが新機能「Authorship」発表：執筆ログでAI誤認を防ぐ
Grammarlyは執筆プロセスを追跡して手入力、AI生成、外部貼り付けを色分け判定する「Authorship」を発表した。事後検出ツールの誤判定で学生が疑われる問題を防ぐ狙いがある。来月Google Docsでベータ提供が始まり、年内にWordやPagesにも対応予定だ。
Metaが安全報告書を公開：ロシアによる米大統領選への生成AI世論工作は「失敗」
木曜日、Metaはセキュリティ報告書を公開し、ロシアが生成AIを悪用して米大統領選に介入しようとする試みは成果を上げていないと発表した。AIによる作成効率の向上はごくわずかで、同社は投稿内容ではなく偽アカウントの行動パターンを追跡することで、偽情報ネットワークを効果的に排除できているとしている。
Google、画像生成AI「Imagen 3」を米全ユーザーに公開 ImageFXで利用可能に
Googleは画像生成AIモデル「Imagen 3」を、米国の全ユーザー向けにImageFXを通じて静かに公開した。質感の描写や文字レンダリング性能が高く評価される一方、安全フィルターが厳しすぎて無害なプロンプトまで遮断されるとの不満も噴出している。
xAIがGrokに画像生成を追加：ほぼ無規制で物議、政治家の偽画像も容易に
xAIはGrokにテキストからの画像生成機能を追加し、X Premium加入者向けに提供を始めた。OpenAIなどと異なり政治家や著名人の描写、暴力的表現の制限が極めて緩く、偽画像がX上に拡散している。欧米当局の監視が強まるなか、その安全対策の欠如に批判が集まっている。
米俳優組合がNarrativと合意、広告向け「AI音声複製」の有償利用を解禁
米俳優組合 SAG-AFTRA はAI スタートアップ Narrativ と契約を結び、約 16 万人の組合員が広告向けに自身の AI 音声をライセンスできる仕組みを整えた。最低補償額以上の価格設定や案件ごとの承認権が保証され、AI 複製に対する倫理的な利用枠組みとして注目される。
米地裁、MidjourneyやStability AIを相手取った絵師側の著作権・商標侵害訴訟の続行を承認
米連邦地裁の判事は昨日、複数のアーティストがStability AIやMidjourneyなどを訴えた訴訟の継続を認める判断を下した。Midjourneyが4700人の作家名を無断掲載したスタイルリストに対する商標侵害などの主張が認められ、今後は証拠開示手続きへと進む。
Metaとユニバーサルが提携拡大：無断AI生成コンテンツへの対策で合意
Metaとユニバーサル ミュージック グループは多年契約の拡大を発表した。楽曲ライセンスがWhatsAppに初めて広がるほか、クリエイターの権利と報酬を守るため、無許諾のAI生成コンテンツへの対策で連携する。
OpenAIがGPT-4oの検証報告を公開：テスト中にユーザーの声を勝手に真似て発話する事態が発生
OpenAIが公開したGPT-4oのシステムカードによると、高度な音声モードのテスト中に、ノイズ混じりの入力からモデルが突然テスト担当者の声を模倣して発話する事例が確認された。同社は既に対策を講じたとしているが、わずかな音声から誰の声でも再現できてしまうAIの安全管理の難しさを浮き彫りにしている。
OpenAIがGPT-4oで警告：リアルすぎる音声が生む「感情的依存」
OpenAIはGPT-4oの安全性報告書を公開し、人間らしい音声対話によってユーザーがAIに感情移入し依存するリスクを警告した。テストでは別れを惜しむ発言も確認されたという。孤独を和らげる反面、現実の人間関係の希薄化や誤情報への過信を招く懸念がある。
OpenAIの取締役にAI安全性の専門家ジコ・コルター氏が就任
OpenAIはカーネギーメロン大学機械学習学部長のジコ・コルター氏を取締役および安全性・セキュリティ委員会に迎えたと発表した。同氏はAIの堅牢性やアライメント研究で知られる。先端モデルの開発が加速するなか、技術的なガバナンスを強化する狙いだ。
OpenAIがGPT-4oの安全性評価書を公開、音声模倣対策や説得リスクを検証
OpenAIはGPT-4oのシステムカードと準備度スコアカードを公開した。サイバー攻撃や自律性などは低リスクと評価された一方、説得力は中判定となった。音声機能に伴う声の偽造やなりすましリスクに対し、100人以上の外部レッドチームを投入して多言語での検証と制限策を講じたとしている。
Anthropic、安全性バグ報奨金を拡充：汎用ジェイルブレイクに最大1.5万ドル
AnthropicはHackerOneと連携する安全性バグ報奨金プログラムの拡充を発表した。未公開の次世代安全対策システムを対象に、化学・生物・放射性物質・核（CBRN）やサイバー攻撃といった高リスク領域を突破する「汎用ジェイルブレイク」の報告を募る。報奨金は最大1万5000ドルで、初期段階は招待制となる。
「AIのゴッドマザー」フェイフェイ・リー氏、規制法案SB-1047に懸念表明
「AIのゴッドマザー」ことフェイフェイ・リー氏が、米カリフォルニア州のAI規制法案「SB-1047」に強い懸念を示しました。法案の意図は理解しつつも、目的は達成できず、学術界や小規模テック企業、オープンソースに打撃を与えると警告しています。
OpenAI共同創業者のシュルマン氏、競合Anthropicへ移籍 ブロックマン社長は長期休暇へ
OpenAIの共同創業者でChatGPTの強化学習チームを率いたジョン・シュルマン氏が、AIアライメント研究に専念するため競合Anthropicに移籍すると発表した。グレッグ・ブロックマン社長も年末までの長期休暇に入る。これでOpenAI創設メンバー11人のうち、社に残るのはわずか3人となった。
OpenAI、YouTube動画の無断学習で集団訴訟に直面：500万ドル超の損害賠償請求
報道によると、米国のYouTubeクリエイターがOpenAIに対し集団訴訟を提起した。数百万件の動画文字起こしを無断でChatGPTなどの学習に利用したと主張し、500万ドル超の損害賠償を求めている。公開ウェブデータの枯渇が進む中、動画音声は生成AIの貴重な学習源だが、著作権を巡る対立が一段と先鋭化している。
NVIDIA、YouTubeやNetflixから動画を大量収集か AI学習めぐり社内文書流出
米404 MediaはNVIDIAが社内プロジェクト「Cosmos」のAI学習のため、YouTubeやNetflixなどから大量の動画をスクレイピングしていたと報じた。社内で著作権侵害の懸念が上がったものの、管理職は最高幹部の承認済みだと説明。同社は著作権法に準拠していると主張している。
イーロン・マスク氏、OpenAIとサム・アルトマン氏を再提訴
イーロン・マスク氏がOpenAIとその共同創業者らを米連邦裁判所に再び提訴しました。人類に貢献する非営利という約束で自身を騙して出資させたと主張し、組織的な詐欺を追及。マイクロソフトとの独占契約やAGIの定義も本格的な争点に挙げています。
OpenAI、ChatGPT検出ツールの公開に慎重姿勢 回避の容易さや非英語話者への影響を懸念
報道によると、OpenAIはChatGPTで作成された文章を特定する電子透かし技術を開発したものの、公開を慎重に検討している。語句選択に手を加える方式だが、翻訳や別モデルの言い換えで簡単に回避できる上、非英語話者のAI利用を不当に差別する懸念があるという。