MetaとInriaが「Stable Signature」公開：画像生成モデル自体に不可視透かしを埋め込み
Meta FAIRとInriaは、オープンソース画像生成AI向けの電子透かし技術「Stable Signature」の論文とコードを公開した。画像生成後ではなくモデルのデコーダーに不可視透かしを直接埋め込む仕組みで、トリミングや圧縮、追加学習にも耐性がある。誤検出率を極めて低く抑えつつ、AI生成画像の追跡を可能にする。
AI安全性
新しいニュースを見る
MetaのAIスタンプ生成で不適切画像が続出、安全フィルタの甘さが露呈
報道によると、Metaが導入したEmu基盤のAIスタンプ機能で安全対策の不備が発覚した。直接的な禁止ワードは弾くものの、同義語や言い換えを使うだけで武器を手にした子供や過激な画像が生成できてしまい、ずさんな検閲体制に批判が集まっている。
AIが引受業務を刷新：保険業界の非効率をどう解消するか
保険の引受（アンダーライティング）業務におけるAI活用の解説記事が公開された。手作業による査定の遅延や価格設定ミスに対し、機械学習がテキストや音声などの非定型データを解析して精度を向上させる。不正検知やサイバーリスクへの対応力も強化され、担当者がより付加価値の高い顧客対応に集中できるよう支援する。
メリーランド大がAI透かしを検証：不可視型を全滅突破、誤検知偽造も可能に
メリーランド大学の研究チームは既存のAI画像透かし技術を検証し、すべて突破できたとする論文を発表した。攻撃者は不可視透かしを簡単に除去できるだけでなく、人間の写真に透かしを埋め込んで誤検知を起こすことも可能だ。巨大IT各社が期待を寄せるAI透かしだが、単体での防御には限界がある。
Google、サイト内容をAI学習から除外できる「Google-Extended」を提供開始
Google は Web サイト管理者が AI の学習利用を拒否できる「Google-Extended」を発表した。robots.txt に指定するだけで、Google 検索のインデックス登録を維持したまま、Bard や Vertex AI の学習データ収集のみを遮断できる。検索流入を諦めずに権利を守れるのがポイントだ。
米Google、生成AI検索「SGE」を10代にも開放 安全対策と情報源表示を強化
米Googleは生成AI検索「SGE」の利用対象を米国の13〜17歳のティーンエイジャーに拡大すると発表しました。いじめや違法物質など不適切コンテンツへの安全対策を強化したほか、回答の生成背景を示す「About this result」機能も追加しています。
Meta、28体のAIキャラにSNSアカウントを開設 著名人の顔でDM会話も可能に
MetaがConnectにて、独自の個性を持つ28体のAIキャラクター向けにFacebookとInstagramのプロフィールを開設した。一部は有名人の外見をキャラクターとして起用しており、米国のベータ版ユーザーはMessengerやInstagramのDMから直接会話を楽しめる。
米脚本家組合がスト終結へ：ChatGPT強制利用の禁止など生成AI規制で合意
全米脚本家組合（WGA）は約5カ月に及ぶストライキの終結を決めた。締結された3年協約には厳格な生成AI規制が盛り込まれ、制作会社が脚本家にChatGPTなどの使用を強制することや、AIに脚本を書かせる行為が禁止された。クリエイターをAI代替から守る初の先例となる。
Google検索がBardの共有チャットをインデックス化、非公開の会話が検索結果に流出
ユーザーがリンク共有したBardの会話履歴がGoogle検索のインデックスに登録され、検索結果に一般公開されていたことが判明した。Googleは意図した挙動ではないと認め、検索結果から除外する修正を進めていると説明している。
ハリウッド脚本家スト終結：AIによる執筆やChatGPTの強制利用を禁止へ
全米脚本家組合がスタジオ側と 3 年間の暫定合意に達し、148 日間に及ぶストライキが終結しました。新協定では AI による脚本の執筆や改稿、ChatGPT の利用強制を禁じ、AI 生成物を原作扱いしないことが明記されました。映画界で生成 AI の利用に明確な境界線を引く初の合意となります。
米Getty、自社ライセンス画像のみで学習した画像生成AIを発表
Getty Images は Nvidia と提携し、自社の正規ライセンス画像のみで学習させた画像生成ツール「Generative AI by Getty Images」を発表した。商用利用時の著作権侵害リスクに対して完全な法的補償を提供するのが特徴だ。実在の人物や特定アーティストの模倣は禁止されており、企業の商用利用に特化した安全な生成環境を提供する。
UPS、AIで置き配盗難を防ぐ「DeliveryDefense」を展開へ
米物流大手 UPS 傘下の UPS Capital は、AI で配達先住所の盗難リスクを判定する「DeliveryDefense」の展開を発表した。過去の配送データから安全性を 1 から 1000 点でスコアリングし、危険な住所には店頭受取などを提案できる。10 月 18 日には中小企業向けウェブ版も月額 99 ドルから提供される。
「ゲーム・オブ・スローンズ」原作者ら、OpenAIを著作権侵害で提訴
米作家組合とジョージ・R・R・マーティンら著名作家17人は無断で作品を大規模言語モデルの学習に使われたとしてOpenAIを提訴した。作家の生活を脅かす集団訴訟を目指す。OpenAI側は懸念について対話を続けていると回答した。
Robloxが音声AIのSpeechlyを買収、リアルタイムの音声モデレーションを強化へ
Robloxは音声モデレーション技術を手掛けるフィンランドのスタートアップSpeechlyの買収を発表した。Speechlyはリアルタイムの音声文字起こしや有害発言の検知AIを提供している。Robloxが進めるボイスチャット機能の拡大に伴い、コミュニティの安全性向上を図る狙いだ。
TikTok、AI生成コンテンツのラベル機能を公開：リアルなAI動画に明記を義務化
TikTok は AI で生成または大幅に加工された投稿にラベルを付けるツールを公開した。リアルな画像や音声を含む AI コンテンツには開示が義務付けられ、自社製フィルターの名称にも「AI」が明記される。今後は自動検出アルゴリズムの導入も進める方針だ。
OpenAIが「Red Teaming Network」設立、外部専門家とAI安全性を継続検証へ
OpenAIは外部専門家と連携してAIモデルの潜在リスクを洗い出す「Red Teaming Network」の公募を開始した。参加者には守秘義務のもと報酬が支払われ、年間5〜10時間程度の関与も可能。従来のモデル公開前に行う単発テストから、多様な視点を取り入れた常態的な安全評価へと拡大する狙いがある。
マイクロソフトのAIチーム、設定ミスで社内データ38TBを誤公開
マイクロソフトのAI研究部門がGitHubでオープンソースモデルを公開した際、Azureのトークン設定ミスにより38TBの内部データが露出していたことが判明した。秘密鍵やパスワード、3万件超のTeamsチャットが含まれていたが、セキュリティ企業Wizの報告を受けすでに無効化された。
トム・ハンクスらが参加、Metaphysic が俳優のAI肖像権管理システムを発表
生成AI企業のMetaphysicが俳優の顔や声などのデータを管理する新システム「Metaphysic Pro」を発表しました。アン・ハサウェイやトム・ハンクスらが初期ユーザーとして参加。ハリウッドでAI利用の懸念が高まる中、本人の許諾や対価の透明な管理を目指します。
ザッカーバーグ氏、米議会AIフォーラムでオープンソースの意義を強調
MetaのザッカーバーグCEOが米上院AIフォーラムで演説し、AIの二大課題として安全性とアクセス権を挙げました。Llama 2を例にオープンソースがセキュリティ向上と技術標準確立に寄与すると主張しつつ、将来超知能に近づけば方針を再考すると述べました。
米著名作家らがOpenAIを提訴、ChatGPTの学習データ無断使用を主張
米作家のマイケル・シェイボン氏や劇作家のデイヴィッド・ヘンリー・ウォン氏らが、著作物を無断でGPTの訓練に使用されたとしてOpenAIを集団提訴した。訴状ではChatGPTが作品を高精度に要約できる点を証拠とし、著作権侵害の差し止めと損害賠償を求めている。