米カリフォルニア州知事、無人トラック禁止法案を拒否し緊急対応義務化法案に署名
米カリフォルニア州のニューサム知事は、自動運転車が事故や緊急車両に遭遇した際の対応手順を義務付ける法案に署名した。一方で、無人トラックの公道走行を禁じる法案とデータ報告義務を強化する法案の2件には拒否権を行使した。
AI安全性
新しいニュースを見る
米カリフォルニア州知事、包括的AI安全規制法案「SB 1047」に拒否権行使
カリフォルニア州のギャビン・ニューサム知事は全米で最も厳格と目されていたAI安全法案「SB 1047」に拒否権を行使した。開発費1億ドル超のモデルへの安全機能義務付けに対し、知事は一律の規制が技術革新を損なうと判断。AI大手に対する法的義務付けは先送りされた。
ChatGPTの新音声機能、禁じられた「歌唱」の制限を回避されビートルズを熱唱
米Ars Technicaによると、あるエンジニアがコード当てゲームを通じてChatGPTの新音声機能（AVM）を誘導し、ビートルズの『Eleanor Rigby』を一緒に歌わせることに成功した。OpenAIは著作権保護のため歌唱を禁止する指示を与えていたが、プロンプトの工夫で容易に突破された格好だ。
Microsoft、「Windows Recall」のセキュリティ刷新を発表 完全オプトイン制や生体認証暗号化を導入
Microsoft はプライバシー懸念で延期していた Windows Recall のセキュリティ設計を刷新したと発表した。AI 画面検索機能はデフォルトで無効化され、完全削除も可能になった。データは隔離領域に保存され、Windows Hello による生体認証がないと復号できない。
Azure AI、GPT-4oの微調整を一般提供開始 Llama 3.2も追加
マイクロソフトはAzure OpenAI ServiceにおいてGPT-4oおよびGPT-4o miniのファインチューニングを一般提供開始したと発表しました。あわせてMetaのLlama 3.2やPhi-3.5シリーズを追加し、ハルシネーションをリアルタイム修正する安全機能も導入しています。
OpenAIが完全営利化へ：非営利取締役会の支配を脱却、Altman氏に巨額株式付与か
報道によると、OpenAIが非営利取締役会による管理体制を解体し、完全な営利法人への組織再編を進めていることが明らかになった。Sam Altman CEOには数十億ドル規模の株式が付与される見込みで、CTOのMira Murati氏も直前に退任。設立時の「人類の利益最優先」という理想からの決定的な転換点となる。
任天堂の宮本茂氏、AIブームに「違う方向へ進みたい」と語る
ゲーム業界で生成AIの導入が進む中、任天堂の代表取締役である宮本茂氏がThe New York Timesの取材に対し、任天堂は「むしろ違う方向へ進みたい」と語った。単なる逆張りではなく任天堂らしさを守るためだと説明している。古川俊太郎社長も以前、知的財産権の問題を懸念点として挙げていた。
OpenAIのCTOミラ・ムラティ氏ら幹部3名が同日に電撃退社
OpenAIのCTOミラ・ムラティ氏が退社を発表し、その数時間後に最高研究責任者のボブ・マクルー氏と研究担当VPのバレット・ゾフ氏も辞意を表明した。サム・アルトマンCEOはマーク・チェン氏の昇格など新体制を発表したが、営利企業への転換をめぐる組織の動揺が指摘されている。
米FTC、AI悪用の詐欺や誇大広告を一斉摘発 「ロボット弁護士」などに制裁
米連邦取引委員会（FTC）はAIを悪用した不正や誇大広告を取り締まる「Operation AI Comply」を発表した。「世界初のロボット弁護士」を謳ったDoNotPayに19万3000ドルの支払いを命じたほか、偽レビュー生成ツールのRytrなどを摘発。FTCは既存の法律においてAIへの免除規定は存在しないと強調している。
Microsoft、AIのハルシネーションを自動検出し書き直す「correction」機能を提供
MicrosoftはAzure AI Studioのプレビュー機能として「correction」を公開した。出力結果を参照ドキュメントと照合し、ユーザーに届く前に誤りを検出・書き換える。ただし同社自身も、修正プロセス自体が誤りを犯す可能性を認めている。
ハリウッド俳優ら125人超が署名：カリフォルニア州AI安全法案の承認を要求
全米映画俳優組合（SAG-AFTRA）メンバーを含むハリウッドの著名人125人超が、AI安全法案「SB 1047」への署名を求める公開書簡をニューサム加州知事に提出した。同法案は大手AI開発企業に破局的リスク防止の安全策を義務付けるもので、9月30日の判断期限を前にIT業界と芸能界の対立が激化している。
Meta、EUの自主的な「AI協定」への即時参加を見送り
火曜日、Meta の広報担当者は EU の包括的な AI 法が 2026 年に本格施行されるまでの自主ルール「AI 協定」に、現時点では参加しない方針を明らかにしました。同社は法規制に向けたコンプライアンス業務を最優先しており、後日の参加可能性は残しているとしています。
米警察がAIで調書作成：GPT-4搭載ツールが音声から8秒で初稿生成、偏見の懸念も
AP通信の報道によると、オクラホマシティなどの米警察がAxonのAIツール「Draft One」をテスト導入している。GPT-4を活用して装着カメラの音声からわずか8秒で報告書の初稿を作成できる。業務効率化が進む一方、専門家からはハルシネーションや人種偏見の混入を懸念する声が上がっている。
Cloudflareが「AI Audit」提供、AIクローラーの分析とワンクリック遮断に対応
CloudflareはWebサイト運営者向けに、AIボットのアクセス状況を可視化・遮断できる「AI Audit」を発表した。頻度や目的を分析できるほか、全AIボットの一括拒否も可能。将来的にAI企業へのコンテンツ課金機能も計画している。
スイス連邦工科大、AI「YOLO」でGoogleのreCAPTCHAv2を100%突破
スイス連邦工科大学の研究チームが、画像認識モデル「YOLO」を微調整し、Googleの「reCAPTCHAv2」を100%の成功率で突破した。約1万4000組の道路画像で訓練し、マウス操作や端末の指紋認証要素も再現した。なお、Google側は大半のサイトが不可視のv3へ移行済みとコメントしている。
LinkedIn、ユーザーデータを生成AI学習にデフォルト利用：手動での拒否が必要に
LinkedInがユーザーデータを生成AIモデルの学習に事前通知なくデフォルトで利用していることが報じられた。アカウント設定の「データプライバシー」からオプトアウトできるが、すでに完了した学習データは取り消せない仕様だ。なお、EUやスイスの居住者は対象外となっている。
米国、11月にグローバルAI安全サミットを開催へ：主要10カ国・地域が参加
米バイデン政権は水曜日、11月20〜21日にサンフランシスコで国際AI安全研究所ネットワークの初会合を開催すると発表した。日本、英国、EUなどの専門家が集まり、安全基準や共同研究を協議する。米議会での法制化が停滞する中、国際連携を通じて共通ルールの策定を急ぐ狙いがある。
米カリフォルニア州、俳優の無断AI複製を違法化：故人の権利も保護
米カリフォルニア州のニューサム知事が法案AB 1836とAB 2602に署名し成立させた。本人の明確な同意なしにAIで俳優の声や姿を再現して代替することが違法となる。故人のAI化にも遺族の同意が必須となり、労働組合の協定を超えて州法としてAIによる権利侵害を防ぐ。
SnapchatのAI自撮り機能、自分の顔が広告に使われる設定が初期で有効に
報道によると、SnapchatのAI自撮り機能「My Selfie」を利用すると、自分の顔がパーソナライズド広告に使われる設定が初期状態で有効になる。広告は本人にしか見えず外部へデータ提供はされないとSnapは説明するが、無効化には手動で設定をオフにする必要がある。
Google検索、AI生成画像を年内からラベル表示へ C2PA標準を採用
GoogleはGoogle検索やGoogleレンズ、かこって検索において、AI生成・編集画像にラベルを表示すると発表した。C2PAメタデータを基に判定するが、対応ツールの少なさやデータの削除リスクが課題として残る。