OpenAI、成人向けコンテンツ生成の解禁を検討 「責任ある提供」を模索
OpenAI が公開したモデル動作方針の文書で、AI 製品において成人向けコンテンツや露骨な表現を「責任を持って」生成できるようにする方針を検討中であることが分かった。適法な範囲での芸術的表現を認める意図とされるが、既存の安全策の甘さや悪用リスクへの懸念は根強い。
AI安全性
新しいニュースを見る
OpenAI、著作権者がAI学習利用を管理できる「Media Manager」開発へ
OpenAIはクリエイターや著作権者が自身の作品をAI学習に含めるか除外するかを指定できる新ツール「Media Manager」を開発中だと発表した。テキストや画像、動画などを横断して識別し、2025年の導入を目指す。業界標準化を狙う取り組みだが、現在は開発段階にある。
バフェット氏、AI詐欺は「史上最大の成長産業」になると警告
バークシャー・ハサウェイの年次株主総会でウォーレン・バフェット氏は、AI を悪用した詐欺が「史上最大の成長産業」になり得ると警鐘を鳴らした。ディープフェイクや音声複製の危険性を指摘し、AI の強大な力を核兵器に例えて警戒を呼びかけた。
マイクロソフト、米警察によるAzure OpenAIの顔認識利用を禁止
マイクロソフトはAzure OpenAI Serviceの利用規約を改訂し、米国の警察機関が同サービスを顔認識に利用することを明確に禁止した。あわせて、世界中の法執行機関がボディカメラなどでリアルタイム顔認識を行うことも制限される。
OpenAI、ChatGPT Plus向けに「メモリ」機能を正式提供
OpenAIは欧州と韓国を除く全ChatGPT Plusユーザー向けに「メモリ」機能の提供を開始した。過去の会話で伝えた詳細や好みを記憶し、別の会話でも参照できるようになる。記憶が更新されると通知され、設定画面から個別の記憶の確認・削除や一時チャットの利用が可能だ。
OpenAI、Sam Altman 氏の別企業 Worldcoin と提携協議中か
報道によると、Sam Altman 氏率いる OpenAI が、同氏が共同創業した生体認証・暗号資産プロジェクト Worldcoin と提携交渉を進めている。OpenAI が AI サービスを提供する見込みだが、両社ともに規制リスクを抱える中での連携に注目が集まる。
MetaのAI広告ツールで不具合：予算が数時間で枯渇、広告単価は10倍に
The Vergeの報道によると、Metaの自動広告ツール「Advantage Plus」で不具合が多発し、数時間で日次予算の75%が消化される事態が相次いでいる。インプレッション単価が通常の約10倍に跳ね上がり売上も出ないため、自動化を諦めて手動運用へ戻す広告主が出始めている。
米国土安全保障省がAI安全委員会を設立：アルトマン氏やナデラ氏らが参加
米国土安全保障省は金曜日、送電網や空港など重要インフラをAIの脅威から守るための「AI安全・セキュリティ委員会」を設立しました。OpenAIのサム・アルトマン氏やマイクロソフトのサティア・ナデラ氏ら22名が初期メンバーとして参加します。
ドレイク、AIで故2パックの声を再現したディストラックを削除
ドレイクは故2パック（Tupac Shakur）の遺産管理団体から提訴を警告されたことを受け、Xから楽曲「Taylor Made」を削除した。同曲ではAIで再現した2パックの声が使われていた。大物アーティストによる無断AIボイスの使用が、法的リスクに直面した象徴的な事例だ。
校長の声をAIで偽造し差別発言を捏造か 米高校教員を逮捕
米メリーランド州の高校教員が、AIを使って校長の声をクローンし人種差別的な音声を偽造・拡散したとして逮捕された。音声の拡散により校長が一時停職に追い込まれていたが、捜査でAI生成の痕跡が特定された。AI音声の悪用が刑事事件に発展した実例として波紋を広げている。
DrakeのディストラックにAI Tupacが無断使用、遺族が24時間以内の削除を要求
伝説的ラッパー故Tupacの遺産管理団体が、Drakeの新曲「Taylor Made」に対し法的措置を警告しました。同曲はTupacやSnoop DoggのAI生成音声を無断使用しており、遺族側は遺産の乱用だとして24時間以内の公開停止を求めています。
OpenAIやGoogleなど各社が連携、生成AIの児童安全保護原則を導入
OpenAIは非営利団体ThornやGoogle、Meta、Microsoftなどと連携し、生成AIの「セーフティ・バイ・デザイン」原則を採用すると発表した。開発から運用までの全段階で児童性的虐待素材の排除を徹底し、年次で進捗状況を公表する方針だ。
「AIは新たなデジタル種」Microsoft AIのSuleyman氏がTEDで提言
Microsoft AIのMustafa Suleyman CEOがTEDトークに登壇し、AIの将来像について語った。同氏は開発者自身もAIの行く末を正確に言い表せていないと指摘し、AIを「新たなデジタル種」と見立てる新たな視点を提示した。
スタンフォード大「AI Index」：従来テストで人間超え、評価基準の刷新急務
スタンフォード大学HAIは第7回「AI Index」レポートを公開した。画像分類や読解に続き、難関数学（MATH）の正答率も2年で6.9%から84.3%へ急伸し、多くの指標で人間に肉薄している。既存ベンチマークが急速に形骸化する一方、ハルシネーションなどの課題は依然として残されている。
スロベニアPaintCam、侵入者にペイント弾や催涙ガスを撃ち込むAI監視カメラ「Eve」発表
スロベニアのPaintCamは、顔認識AIで不審者を識別し、警告を無視した侵入者にペイント弾や催涙ガスを発射する防犯カメラ「Eve」を発表した。受動的な監視から自律的な武力撃退へ踏み込んだ製品だが、誤認射撃時の法的責任や倫理面での懸念も大きい。
米俳優組合SAG-AFTRA、大手レコード会社とAI利用巡り暫定合意
米国の俳優組合SAG-AFTRAは、ワーナーやソニーなどの大手レコード会社と暫定合意に達した。アーティストの音声をAIで複製した楽曲のリリースには本人の事前同意と報酬支払いが義務付けられ、「歌手」という定義は人間のみに限定された。
米議員が新法案提出：AI公開の30日前に学習著作物の開示義務化へ
米下院のアダム・シフ議員が「生成AI著作権開示法案」を提出した。新AIシステムの公開前30日までに、訓練データに含まれる著作物のリストを著作権登録官へ提出することを義務付け、違反時は罰金を科す。著作物の学習自体は禁止しないが、各社が秘匿してきたデータ内容の透明化を迫る。
カナダ、AI競争力強化に24億ドル投資：計算基盤に20億ドル集中
カナダのトルドー首相は2024年度予算案において24億カナダドル規模のAI支援パッケージを発表した。国内の計算インフラ整備に20億ドルを投じるほか、AI安全研究所の設立に5000万ドルを配分する。自国の人材やスタートアップの流出を防ぎ、主権的な計算能力を確保する狙いだ。
OpenAI、GPT-4学習にYouTube動画100万時間以上を文字起こし利用か
ニューヨーク・タイムズ報道によると、OpenAIはデータ枯渇に対処するため、Whisperで100万時間以上のYouTube動画を文字起こししてGPT-4の学習に利用した。法的懸念を認識しつつフェアユースと判断したとされ、GoogleやMetaも同様の苦境にある。
Netflix「ザ・サークル」シーズン6にAIが参戦 人間に扮して賞金争奪へ
Netflixはソーシャルリアリティ番組『ザ・サークル』シーズン6の出演者を発表し、「マックス」という名のAIボットが人間のふりをして参戦することを明かした。AIは人間のインフルエンサーたちとチャット上で駆け引きを繰り広げ、10万ドルの賞金を狙う。人間がAIを見抜けるかが最大の見どころだ。