ByteDance、OpenAIの技術を流用し独自LLM開発か アカウント停止に
米The VergeはByteDanceが独自基盤モデル「Project Seed」の開発・評価にOpenAIのAPI出力を利用していたと報じた。競合モデル開発を禁じる利用規約に違反した形となり、OpenAIは調査のためアカウントを一時停止した。社内チャットでは痕跡消去の議論もあったとされ、ByteDance側は年半ばに学習データから除外したと説明している。
AI安全性
新しいニュースを見る
OpenAI、超知能AIの安全性研究に1000万ドルの助成金プログラムを開始
OpenAIはエリック・シュミット氏と共同で、人間を超えるAIの安全性とアライメント研究を支援する1000万ドル規模の助成プログラムを発表した。研究機関や個人に10万〜200万ドルを助成し、大学院生向けフェローシップも提供。弱から強への汎化や解釈可能性などを重視し、経験不問で募集する。
Google、テキストから楽曲を生成するAIツール「MusicFX」を公開
Googleは、テキストプロンプトから音楽を生成できる実験的ツール「MusicFX」を公開した。MusicLMを基盤とし、DeepMindの電子透かし技術「SynthID」を自動で埋め込む仕様だ。著作権保護のため、特定アーティストの模倣やボーカル生成は制限されている。米国や豪州などで先行提供中。
サム・アルトマン氏、OpenAI解任劇とAGIを語る：お家騒動よりAI統治が懸念
米TIME誌の「今年のCEO」に選ばれたOpenAIのサム・アルトマンCEOがインタビューに応じ、一連の解任騒動やAGIの統治について語った。騒動を経て統治体制の反省が進んだと述べ、AGIは人類史上最も強力な技術になると強調。取締役会のドラマ以上に、2024年選挙での偽情報や超知能の管理に強い懸念を示した。
米政府監査院、政府機関のAI導入急加速に警鐘 調達・管理基準の策定は数年遅れ
米政府監査院（GAO）は連邦政府機関のAI利用に関する調査報告書を公表した。200件以上の業務でAIが活用され500件以上が計画中である一方、調达や管理の統一指針は数年遅れていると指摘。顔認証などの機密領域で基準が曖昧なまま導入が進み、安全保障やプライバシー侵害への懸念が高まっている。
米FTC、マイクロソフトのOpenAI出資を調査検討か：独禁法違反の疑い
米連邦取引委員会（FTC）が、マイクロソフトによるOpenAIへの巨額出資が反トラスト法に違反していないか調査を検討していると報じられた。マイクロソフトは100億ドル以上を投じているが、株式は保有せず利益分配権のみだと説明している。英CMAに続く動きで、提携への監視が強まっている。
GPT-4Vで再現：YouTuberがGoogle「Gemini」の演出動画を実機で実証
YouTuberのGreg Technology氏がGPT-4Vを使い、編集による演出疑惑が持たれていたGoogle Geminiのプロモ動画を再現した。リアルタイムの動画入力で手ぶりやイラストを判別させ、動作するコードをGitHubに公開している。
xAIの「Grok」、質問拒否時に「OpenAIの規約違反」と誤答して波紋
セキュリティテスターがxAIのGrokにプロンプトを入力した際、「OpenAIの利用規約に違反する」と回答を拒否された事例を公開しました。xAI側はWebデータの誤収集と釈明したものの、専門家からはOpenAIの出力で微調整された可能性が指摘されています。
ドライブスルーの「AI自動注文」、7割以上がフィリピンなどの人間による手作業だった
報道によると、ファストフード店向けに AI ドライブスルー技術を提供する Presto Automation の注文の 70% 以上が、フィリピンなどの遠隔地にいる労働者によって手作業で処理されていたことが SEC の提出書類で判明した。現在 SEC が同社を調査中。AI による人件費削減を謳いながら、実態は安価な海外労働力へのアウトソーシングに過ぎなかった形だ。
EU、世界初の包括的AI規制「AI法」で政治合意：最大で世界売上の7%の罰金
欧州議会と理事会は包括的な人工知能規制案「AI法」で暫定合意に達した。社会的スコアリングや職場での感情認識などを禁止し、基盤モデルにも透明性やリスク評価を義務付ける。違反企業には最大3500万ユーロまたは全世界売上高の7%の罰金が科される。
Meta、安全なAI開発を支援する「Purple Llama」と「Llama Guard」を発表
Metaはオープンソースの生成AIを安全に構築するためのプロジェクト「Purple Llama」を発表した。LLM向けサイバーセキュリティ評価ツールと、有害な入出力を検知・遮断する基盤モデル「Llama Guard」を提供し、研究および商用利用の両方でオープンに利用できる。
Meta、単体で使える画像生成Webツール「Imagine with Meta」を無料公開
Metaはテキストから画像を生成する独立したWebツール「Imagine with Meta」を公開した。同社の画像生成モデル「Emu」を採用し、米国のユーザーは1プロンプトにつき4枚の画像を無料で生成できる。さらに同社は、トリミングや色調整にも耐性を持つ不可視の電子透かしを導入する方針も明かした。
Mozillaが年次方針を発表：かつてのWebのように、オープンなAIを目指す
Mozillaは年次報告「State of Mozilla」を公開し、巨大テック企業によるAIの囲い込みに対抗する方針を示した。FirefoxでWebの独占に挑んだ時のように組織を再編し、オープンソース開発者やスタートアップと連携して人間中心かつ信頼できるAIを推進するとしている。
北京の裁判所が判断：AI生成画像にも著作権を認める
北京インターネット裁判所は、AI生成画像であってもプロンプト選定やパラメータ調整、画像の選別といった人間の知的な創作意図が反映されていれば著作権保護の対象になると判断した。AI画像を著作物と認めない米欧の司法判断とは対照的な判断となった。
米Amazon、画像生成AI「Titan」発表 不可視透かしと著作権補償に対応
AmazonはAWS re:Inventにて「Titan Image Generator」を発表した。Bedrock経由で提供される企業向けモデルで、画像生成や背景変更に対応する。圧縮や切り抜きでも消えない不可視の電子透かしを自動埋め込み、著作権侵害に対する補償も提供する。
OpenAI、サム・アルトマン氏のCEO復帰を正式発表 新体制で取締役会も刷新
OpenAIはサム・アルトマン氏のCEO復帰を正式に発表した。ミラ・ムラティ氏がCTO、グレッグ・ブロックマン氏が社長に戻るほか、ブレット・テイラー氏を議長とする新取締役会を発足。マイクロソフトには議決権のないオブザーバー席が与えられ、組織統制の再構築を進める。
米軍が自律型兵器数千機の配備を加速、「AIによる致死性判断」の現実味
報道によると、米国防総省は2026年までに数千機規模の低コスト自律型無人機を配備する「レプリケーター」構想を推進中だ。800件以上のAI事業を抱える中、専門家は通信速度の向上により完全自律型致死兵器の実戦投入が不可避になりつつあると指摘する。
米英など18カ国が合意：AI開発に「設計段階からの安全性」を要求
米国や英国など18カ国がAIシステムの悪用を防ぐための国際ガイドラインを発表した。「設計段階からの安全性確保（セキュア・バイ・デザイン）」を提唱し、公開前のテストやデータ改ざん防止を促す内容だが、法的拘束力は伴わない。
ロイター報道：OpenAI解任劇の引き金か、新AI「Q*」の脅威訴える内部書簡
ロイター報道によると、サム・アルトマン氏が解任される直前、研究者らが「Q*（Qスター）」と呼ばれるAIのブレークスルーが人類の脅威になり得ると取締役会に書簡で警告していた。膨大な計算資源で数学問題を解く能力を示し、AGIへの突破口と見なされていたという。
OpenAI、サム・アルトマン氏のCEO復帰を発表
OpenAIは夜、解任されたサム・アルトマン氏がCEOに復帰することで基本合意したと発表した。グレッグ・ブロックマン氏も復帰し、ブレット・テイラー氏らが参加する新取締役会が発足する。社員による退職を辞さない抗議運動が実を結び、一連の解任騒動については独立した外部調査が行われる予定だ。