カリフォルニア州がAI規制18法案に署名：ディープフェイクや無断AI複製を禁止
9月、カリフォルニア州のニューサム知事は議論を呼んだSB 1047法案を拒否した一方、18本のAI関連法案に署名した。選挙や性的ディープフェイクの取り締まり、モデルの学習データ開示の義務化、俳優や故人の無断デジタル複製禁止など、具体的で差し迫ったリスクへの対策が法制化された。
AI安全性
新しいニュースを見る
OpenAI、新AI「o1」の思考プロセスを探るユーザーにアカウント停止を警告
OpenAIが先週公開した新モデル「o1」シリーズを巡り、内部の生データである思考チェーンを探ろうとしたユーザーに対し、規約違反の警告メールや利用停止の警告を送っていることが分かった。o1はフィルタリング後の思考要約のみを表示する仕様で、「reasoning trace」などの語句を入力するだけでも検知対象になるという。
オラクル会長のエリソン氏、AIが全市民を常時監視する未来を予測
Oracle のラリー・エリソン会長はアナリスト会合で、将来 AI が警察官や一般市民を 24 時間常時監視・記録する大規模システムを担うと発言した。エリソン氏は犯罪抑止を狙いとするが、偏りのある警察データを用いた AI 監視が差別を助長するとの批判も出ている。
OpenAIが安全性委員会を独立組織に改編：モデル公開の延期権限を付与
OpenAIは安全性およびセキュリティ委員会を独立した取締役会監視委員会へと改編したと発表した。カーネギーメロン大学のZico Kolter氏が委員長を務め、安全性の懸念が解消されるまで主要モデルのリリースを延期できる権限を持つ。
LAIONが画像データセットを再公開、不適切リンク2236件を削除
Stable Diffusionの学習データを作成したLAIONが、児童性的虐待素材（CSAM）のリンクを排除した「Re-LAION-5B」を公開した。外部機関の協力のもと2236件の疑わしいリンクを削除し、旧データセットを利用中の組織に速やかな移行を求めている。
米政府、OpenAIとAnthropicの新モデルを公開前後に安全性テストへ
米国AI安全研究所は木曜日、OpenAIおよびAnthropicと覚書を締結し、主要な新型AIモデルの公開前後にアクセスして安全性評価を実施すると発表した。英機関とも連携して改善の指摘を行う方針で、AI規制の議論が進む中での重要な節目となる。
オプラ・ウィンフリー、ABCのAI特番で司会：アルトマン氏やゲイツ氏と対談へ
報道によると、オプラ・ウィンフリーが司会を務めるABCの特別番組「AI and the Future of Us」が9月12日に全米放送される。OpenAIのサム・アルトマンCEOやビル・ゲイツ氏らが登壇し、AIの仕組みや雇用、教育、医療への影響を一般視聴者に向けてわかりやすく解説する。
カリフォルニア州の物議を醸すAI安全法案「SB 1047」が議会通過、知事の署名待ちに
カリフォルニア州議会は、巨大AIモデルの開発者に重大な危害を防ぐ安全策を義務付ける「SB 1047」法案を可決し、知事の署名待ちとなった。イーロン・マスク氏が支持を表明した一方、OpenAIは反対姿勢を示すなど業界内でも意見が分かれている。
イーロン・マスク氏、カリフォルニア州のAI安全法案「SB 1047」への支持を表明
イーロン・マスク氏は巨大AIモデルに重大被害防止策の策定を義務付けるカリフォルニア州の「SB 1047」法案への支持をXで表明した。ライバルのOpenAIが法案に反対する中、自身のxAIも規制対象となり得るマスク氏は「難しい判断だが可決すべきだ」と主張している。
Anthropic、Claudeのシステムプロンプト公開 「顔認識は盲目を装う」など指示
Anthropicは、Claude 3および3.5シリーズのシステムプロンプトを公開した。画像内の人物特定を避け「相貌失認」のように振る舞うことや、「certainly」で文を始めないといった細かい行動指針が記されている。大手AI企業が公式に設定内容を開示するのは異例の試みだ。
OpenAIやMicrosoft、カリフォルニア州のAI透かし義務化法案を支持
OpenAI、Adobe、MicrosoftがAI生成コンテンツへの透かし埋め込みを義務付けるカリフォルニア州法案「AB 3211」への支持を表明した。画像や音声のメタデータ記録に加え、SNS等での分かりやすいラベル表示を求める。当初は過度な負担として反対していたテック大手が、法案修正を受けて支持に転じた。
ザッカーバーグ氏とSpotify CEOが警告：欧州の規制がオープンソースAIを殺している
Metaのマーク・ザッカーバーグCEOとSpotifyのダニエル・エクCEOが共同声明を発表し、欧州の断片的な規制がオープンソースAIの技術革新を妨げていると批判しました。規制の不確実性を理由に、Metaは次期マルチモーダルLlamaモデルのEU展開を見送る方針です。両氏は欧州が技術競争で完全に取り残される危機感を示しています。
Google DeepMindの社員約200人、軍事契約の即時破棄を要求
2024年5月、Google DeepMindの従業員約200人が軍事組織との契約終了と軍によるAI技術へのアクセス遮断を求める書簡に署名した。DeepMindは2014年の買収時に軍事・監視用途への不関与を約束していた経緯があり、内部の緊張が高まっている。Google側からの具体的な対応はまだない。
米Microsoft、物議を醸したAI機能「Recall」のテスト提供を10月に延期
米MicrosoftはWindows 11向けのAI機能「Recall」のプレビュー提供を10月に延期すると発表した。PC画面を記録する同機能は暗号化の不備などセキュリティ上の批判を受け、6月の提供を中止していた。デフォルト無効化や暗号化の改修に時間を要しており、一般向け提供は来年へずれ込む可能性が高い。
米Anthropic、カリフォルニア州AI規制法案「SB 1047」は利点がコストを上回ると評価
米 Anthropic はカリフォルニア州知事に宛てた書簡で、修正後の AI 規制法案「SB 1047」について利点がコストを上回る可能性が高いとの見解を示した。先端モデルを開発する大手企業に安全プロトコルの策定を義務付ける一方、小規模開発者は対象外としている。
OpenAIがカリフォルニア州のAI法案に反対表明、イノベーション阻害を懸念
OpenAIはカリフォルニア州の規制法案「SB 1047」に正式な反対書簡を送付した。法案が技術革新を停滞させ、州外への人材流出を招くと主張し、州単位ではなく連邦レベルでの統一規制を求めている。一方、法案の起草者はこの主張を不条理だと反論している。
McAfee、LenovoのCopilot-Plus PC向けにディープフェイク検知ツールを提供
McAfeeはLenovoのCopilot-Plus PC向けに「McAfee Deepfake Detector」を提供開始した。端末上で音声を解析してAI生成の疑いをポップアップで警告する仕組みで、プライバシーに配慮しデータは外部に送られない。30日間の無料試用後、初年度9.99ドルで利用できる。
米作家グループがAnthropicを提訴：海賊版書籍でClaudeを学習と主張
米カリフォルニア州の裁判所で、作家グループがAnthropicを相手取り集団訴訟を起こした。オープンソースのデータセット「The Pile」に含まれる海賊版電子書庫「Books3」を使ってClaudeを無断学習させたと主張し、損害賠償などを求めている。Anthropicは以前、同データセットの利用を認めていた。
トランプ氏、テイラー・スウィフトのAI偽支持画像を投稿
報道によると、ドナルド・トランプ氏が週末、歌手テイラー・スウィフトが自身の大統領選を支持しているかのように見せるAI生成画像をSNSに投稿しました。専門家は、現行のディープフェイク規制は信憑性のある偽情報を対象とすることが多く、こうした誇張表現の取り締まりは難しいと指摘しています。
米ワイオミング州の市長選に「AI任せ」候補 ChatGPTに全決定を委ねると公約
米ワイオミング州シャイアンの市長選で、候補者のビクター・ミラー氏が独自ChatGPTボット「VIC」に100％の市政決定を行わせると公約して物議を醸している。州当局は有権者資格がないとしてボットの候補者記載を却下し、OpenAIも規約違反でアカウントを停止したが、本人は出馬を継続している。