英政府、OpenAIやDeepMindから安全評価用のモデル先行アクセス権を獲得
ロンドン・テック・ウイークにて、スナク英首相はGoogle DeepMind、OpenAI、Anthropicが英政府にモデルを開放することで合意したと発表した。1億ポンド規模のタスクフォースも設置し、秋には世界的なAI安全サミットの開催を目指す。
AI安全性
新しいニュースを見る
Google、AI安全対策の指針「SAIF」を発表：プロンプト注入やデータ汚染に対処
GoogleはAIシステムの安全性を確保するための概念フレームワーク「SAIF」を発表した。ゼロトラストなどの既存のセキュリティ手法を応用し、プロンプトインジェクションやデータポイズニング、モデル窃取といったAI特有のリスクに対処する6つの基本方針を提示している。企業が生成AIを安全に導入するための標準化を目指す。
デサンティス陣営の選挙広告にAI生成画像、トランプ氏とファウチ氏の抱擁を偽造
The Vergeの報道によると、デサンティス陣営のトランプ批判動画に、トランプ氏とファウチ氏が抱擁する3枚のAI生成画像が混入していたことが判明しました。専門家は不自然な質感や背景文字の崩れを指摘しており、ディープフェイクの選挙戦への浸透が懸念されています。
カンザス大、ChatGPT製論文を99%超の精度で見分けるAIを開発
米カンザス大学の研究チームは、ChatGPTが生成した科学論文を99%以上の精度で検出できる機械学習アルゴリズムを開発した。語彙の豊富さや段落の長さ、句読点の使い方など、人間とAIの文体の違いを分析して判定する。ただしテスト規模が小さく、人間による微修正にどこまで耐えられるかは今後の課題だ。
OpenAIに初のChatGPT名誉毀損訴訟：存在しない「500万ドル横領」を捏造
ChatGPT の虚偽情報生成をめぐり OpenAI が初の名誉毀損訴訟を起こされたことが報じられた。ジョージア州のラジオ司会者が、非営利団体から 500 万ドル超を着服したという虚偽の主張を ChatGPT が捏造したとして提訴。AI のハルシネーションに対する免責範囲を問う試金石となる可能性がある。
アップルのティム・クックCEO、ChatGPT利用を明言 企業自身の自主規制を訴える
アップルのティム・クックCEOは米ABCの取材で、自身もChatGPTを使っており社内でも注視していると明かした。大規模言語モデルの可能性を評価する一方、偏見や誤情報の懸念も指摘。規制の法制化が追いつかないほど進化が速いため、企業側の自主規制が不可欠だと語った。
EU、GoogleやMetaに「AI生成コンテンツの即時ラベル付け」を要請
欧州連合（EU）はGoogleやFacebookなどの大手プラットフォームに対し、AI生成の画像やテキストへ即座に識別ラベルを付けるよう求めた。ユーザーが画面をスクロールする中でも「ロボットが話している」とひと目でわかる明確な表示を求めており、偽情報の拡散対策を急ぐ構えだ。
AIによる人類滅亡リスクへの対策を──Altman氏やHinton氏ら幹部・学者が共同声明
CAISはAIによる人類滅亡のリスク軽減をパンデミックや核戦争と並ぶ世界的な優先課題と位置づける共同声明を発表した。OpenAIのSam Altman氏やGoogle DeepMindのDemis Hassabis氏、Geoffrey Hinton氏ら多数の業界関係者が署名し、AIの潜在的な破滅リスクに対する認識共有を求めている。
日本、AI学習での著作権適用を明確化 「鑑賞目的以外」なら商用モデルでも利用可能に
日本の著作権法第30条の4に基づき、著作物の表現を鑑賞する目的でない情報解析であれば、AI学習に著作権者の許諾なくコンテンツを利用できる運用方針が整理された。商用開発のハードルを下げて国内AI産業の競争力を高める狙いがある一方、アニメや漫画などのクリエイターからは無断学習や作風模倣への懸念が根強く残っている。
米弁護士、ChatGPTが捏造した架空の判例を裁判に提出し処分へ
ニューヨークの弁護士が訴訟資料の作成にChatGPTを使用し、実在しない6件の架空判例を裁判所に提出していたことが判明した。判決文の提出を求められた弁護士は、さらにChatGPTに偽の判決文を作らせて提出したため、裁判官は制裁審理を命じた。
OpenAI、AIの行動ルールを決める民主的実験に10件の10万ドル助成金を提供
OpenAIはAIシステムが従うべきルールを民主的なプロセスで決定する実験に対し、1件あたり10万ドルの助成金を10件提供すると発表した。選定チームは最低500人が参加する実証実験を行い、10月20日までに報告書とコードをオープンソースで公開する必要がある。法規制を補完する公共の監督体制を探る狙い。
OpenAIのアルトマン氏、EUのAI規制に対応できなければ撤退を示唆
OpenAIのサム・アルトマンCEOはロンドンでの講演後、EUが準備中のAI規制法案に準拠できない場合、欧州での事業を停止する可能性があると警告した。ChatGPTなどの大規模モデルを「高リスク」に分類する現行草案に懸念を示している。
AI生成の「ペンタゴン爆発」偽画像が拡散、米株式市場が一時下落
米国防総省（ペンタゴン）付近で爆発が起きたとするAI生成の偽画像がTwitterで拡散され、米株式市場が一時0.26%急落した。ロシア国営メディアRTなどが拡散したが、地元消防局が即座に事実無根と発表。フェンスの歪みなど生成AI特有の不自然さも指摘されている。
OpenAI、超知能ガバナンス構想を発表 IAEAのような国際機関を提案
OpenAIは人間を超える「超知能」のガバナンス構想を発表した。IAEA（国際原子力機関）のような国際機関を設立し、一定の計算リソースを超える先端モデルの監査や検査を行うことを提案。一方で、基準以下のモデルやオープンソースへの過度な規制は避けるべきだとしている。
Apple、社内でのChatGPTやCopilot利用を制限 機密流出を懸念
米Appleが社内でのChatGPTやGitHub Copilotなどの生成AI利用を制限したことが報じられた。入力された機密コードや内部情報がモデルの学習に使われたり流出したりすることを警戒した措置。履歴を無効化してもデータが30日間保持される仕様などが背景にある。
OpenAI、ドメイン名に「GPT」を含む開発者へ是正要請を開始
OpenAIがブランド保護代行会社を通じ、ドメイン名に「GPT」を含む開発者に対して是正を求める警告状を送付していることが分かった。未公開の空白ページであっても対象となり、製品名やドメインにモデル名を入れることは禁じられ、説明文に「Powered by」と記載することのみ認められる。
OpenAIのアルトマン氏、米上院公聴会でAI規制とライセンス制の導入を提案
OpenAIのサム・アルトマンCEOが米上院司法委員会の公聴会でAIの規制強化を訴えた。一定水準以上の高度なモデルに対する免許制や事前安全テストの義務化を提言し、業界自らルール形成を主導する姿勢を示している。
マイクロソフトのナデラCEO、OpenAI支配を否定 マスク氏の主張に反論
マイクロソフトのサティア・ナデラCEOは、イーロン・マスク氏による「マイクロソフトがOpenAIを実質的に支配している」との主張に反論しました。自社が持つのは非支配持分と商業提携のみであり、OpenAIは非営利取締役会によって運営されていると強調しています。
イーロン・マスク氏、「OpenAIが存在するのは自分のおかげ」と主張
イーロン・マスク氏はCNBCのインタビューで、自らが「OpenAIが存在する理由」だと主張した。社名を命名し主要エンジニアを勧誘、約5000万ドルを出資したと語った。また同社が安全性を軽視しマイクロソフトの支配下にあると批判したが、マイクロソフト側はこれを強く否定している。
OpenAIのサム・アルトマン氏が米議会で初証言：AI規制機関の設置を提案
OpenAIのサム・アルトマンCEOが米上院公聴会で初証言し、先端AIに対する新たな規制枠組みやライセンス制の導入を求めた。議員側もSNS黎明期の規制不備を繰り返さない構えを示し、これまでのテック企業とは一線を画す同氏の前向きな姿勢を評価した。