米上院のAIフォーラムを前に、データアノテーション作業員が労働保護を議会に要請
AIデータ作業員や市民団体が米上院多数党院内総務のチャック・シューマー氏に書簡を送りました。Amazon Mechanical Turkなどを通じた作業員が最低賃金を下回る報酬や監視環境に置かれていると指摘し、AI規制の議論において集団交渉権の付与や労働者保護を盛り込むよう求めています。
AI安全性
新しいニュースを見る
画像生成AIの無断学習に対抗、シカゴ大がデータ汚染ツール「Nightshade」発表
シカゴ大学の研究チームがデータ汚染ツール「Nightshade」を発表した。作品に肉眼では見えないピクセル加工を施すことで、AIが無断収集して学習した際にモデルを狂わせ、犬を猫として生成させるなどの不具合を起こす。無許可学習への抑止力としてオープンソース化が予定されている。
Metaのルカン氏、「AIによる人類滅亡論は荒唐無稽」と一蹴
Meta のチーフ AI サイエンティストであるヤン・ルカン氏が英紙の取材で、AI による人類滅亡論は「荒唐無稽」だと反論した。現在のモデルは世界を理解しておらず猫の学習能力にも及ばないと指摘し、性急な規制はビッグテックの独占を強めて自由な競争を阻害するだけだと警鐘を鳴らしている。
ユニバーサル・ミュージックがAnthropicを提訴：Claude 2が許諾なく歌詞を出力
ユニバーサル・ミュージック・グループら音楽出版各社がAnthropicを提訴した。Claude 2がライセンス契約なしにヒット曲の歌詞をそのまま出力することや、無断で学習に使用したことを問題視している。原告側は正規の歌詞サイトと同様の許諾と保護策を求めている。
マイクロソフト、「Security Copilot」の早期アクセスを開始：365 Defenderに直接統合
Microsoftは生成AIセキュリティ製品「Security Copilot」のアーリーアクセスプログラムを提供開始した。Microsoft 365 Defenderに直接組み込まれ、自然言語からのKQLクエリ作成やインシデント要約が可能になったほか、脅威インテリジェンスも追加費用なしで同梱される。対象は条件を満たす企業顧客に限定される。
OpenAI、「DALL·E 3」をChatGPT PlusとEnterprise向けに提供開始
OpenAIは画像生成モデル「DALL·E 3」をChatGPT PlusおよびEnterprise向けに正式公開した。チャット内で自然に対話しながら画像の生成や修正指示が出せるようになり、手や文字の描写精度が大幅に向上した。現役アーティスト風の模倣を防ぐ制限や、AI生成判定ツールの導入も進められている。
ユニバーサルミュージックとBandLabが提携：クリエイター権利保護へ
Universal Music Groupと音楽制作プラットフォームBandLabがAI分野における戦略的提携を発表しました。両社はクリエイターの権利保護やAI活用の倫理基準づくりで協力し、新たな商業機会の開拓を目指します。大手レーベルが生成AIの普及を見据え、制作プラットフォーム側とルール作りを本格化させた形です。
Metaが脳活動から画像をリアルタイム復元するAIを発表、MEG信号を活用
Metaの研究チームは非侵入型の脳磁図（MEG）データから人間が見ている画像をリアルタイムに復元するAIを発表した。DINOv2などの視覚モデルと脳信号を照合して描画する。物体の種類の認識精度は高いものの、細かな位置や向きの再現にはまだ課題が残る。
AIが雇用を激変させる：テック指導者が警告、10年で8割の業務を代替か
火曜日、テック界の有力リーダーらがAIによる労働市場の劇的な変化に警鐘を鳴らしました。OpenAIのサム・アルトマンCEOが影響を受ける人々への対策を訴えたほか、投資家のビノッド・コースラ氏は、10年以内に現代の80%の職務における80%の業務をAIが担うようになると予測しました。
NY市長、AIで話せない言語の音声を複製し自動架電 倫理的批判集まる
ニューヨーク市のエリック・アダムズ市長は昨日、AIツールで自身の声を複製し、話せない北京語やスペイン語などの自動案内電話を市民に発信していたと明かした。AI音声であることを明記していないため批判が殺到しているが、市長は言語の壁を越えて市民に届ける手段だと反論している。
ニューヨーク市が初の包括的AI行動計画を発表、行政チャットボットも導入
ニューヨーク市は米主要都市として初となる「人工知能行動計画」を発表した。行政サービスの向上とバイアスなどのリスク管理に向け37項目の施策を掲げ、事業者向け支援ポータル「MyCity」にAIチャットボットも導入した。
米 SEC 委員長が警告：AI による金融危機は 10 年以内に「ほぼ不可避」
フィナンシャル・タイムズ報道によると、米 SEC のゲンスラー委員長は AI が今後 10 年以内に金融危機を引き起こすのは「ほぼ不可避」だと警告した。多数の金融機関が同一の基盤モデルやデータに依存することで、個別規制では防ぎきれない横断的なリスクが生じると指摘している。
Google、生成AIの著作権侵害リスクを補償 学習データと出力の両方に対応
Googleは木曜日、Google CloudやWorkspaceの生成AI利用者を対象に、知的財産権侵害の訴訟費用を補償する方針を発表した。Vertex AIやDuet AIを対象に学習データと生成出力の両方をカバーするが、ユーザーが故意に権利侵害を行った場合は保護の対象外となる。
Spawningが「Kudurru」公開：画像生成AIのスクレイピングを遮断、偽画像で「毒入れ」も
米スタートアップSpawningはクリエイターの作品をAI学習用スクレイピングから守るツール「Kudurru」のベータ版を公開した。LAION-5B収集などのIPを検知して遮断できるほか、要求と異なる画像や中指を立てた画像を返して学習を妨害する「毒入れ」機能も備える。
米上院が「No Fakes Act」草案提示：本人の同意なきAI複製を禁止へ、SAG-AFTRAも支持
米上院の超党派議員が「No Fakes Act」の議論草案を公表し、ストライキ中の米俳優組合（SAG-AFTRA）が支持を表明した。本人の同意なく音声や容姿をAIで複製することを連邦レベルで禁じる内容。スタジオ側が生成AIを用いてエキストラなどの人件費を削減する動きに歯止めをかける狙いがある。
Firefox、AIでサクラレビューを見抜く「Review Checker」をテスト中
MozillaがFirefoxで、買収したFakespotのAI技術を活用した新機能「Review Checker」のテストを開始した。AmazonやWalmartなどの商品レビューのパターンを分析し、信頼度をAからFで判定する。OHTTPによるプライバシー保護も備え、11月に正式公開予定。
Adobe、AI生成コンテンツを示す「透明性アイコン」を発表
AdobeとC2PAはAI生成物であることを明記する新シンボルを発表した。画像などのメタデータに埋め込まれ、カーソルを合わせると制作ツールや所有者情報を確認できる。マイクロソフト製品にも順次導入される予定だ。
Google、気候変動対策AIを拡充：洪水予測を米加に拡大し山火事延焼モデル刷新
Googleは気候変動対策向けのAIツール拡充を発表した。最大7日前からの河川洪水予測を提供する「Flood Hub」を米国とカナダへ拡大したほか、米森林局と共同で50年ぶりとなる山火事延焼予測モデルの刷新を進めている。
生成AIブームは2024年に冷水浴びる、英調査会社が予測
英調査会社CCS Insightは生成AIが2024年に過度な熱狂から覚め「冷や水」を浴びる現実的な調整局面に入ると予測した。膨大なGPUコストが中小企業の負担になるほか、EU規制の難航や検索エンジンによる生成物ラベル付け、初のディープフェイク摘発も予想されている。
OpenAIのCTOが告白「ChatGPTの爆発的人気には準備不足だった」
米OpenAIのCTOであるミラ・ムラティ氏は取材に対し、ChatGPT公開時の爆発的な反響を予測できず、事前の準備が数時間で通用しなくなったと明かした。同氏は技術の急速な進展に合わせた柔軟な組織適応の重要性を語る一方、各社の競争過熱が安全面の「底辺への競争」を招くリスクを警告した。