米非営利報道機関CIRがOpenAIとマイクロソフトを提訴、無許諾のAI学習めぐり
非営利報道機関の調査報道センター（CIR）は、OpenAIとマイクロソフトを著作権侵害で提訴した。許諾や対価の支払いがないまま記事が無断でAIモデルの学習に利用され、収益や読者関係が損なわれたと主張している。ニューヨーク・タイムズなどに続く動きで、メディアとAI企業の対立がさらに拡大している。
AI安全性
新しいニュースを見る
OpenAIが「CriticGPT」を発表、GPT-4のミスをGPT-4で見つける
OpenAIはChatGPTのコード出力に含まれる誤りを指摘する「CriticGPT」を発表した。GPT-4をベースにしたモデルで、人間のトレーナーと連携することで単独作業より60%高い精度でバグを発見できる。高度化するAIをRLHFで正しく評価するための試みだ。
Rabbit R1に重大な脆弱性、ハードコードされたAPIキーで過去の全応答が閲覧可能に
リバースエンジニアリンググループのRabbitudeは、Rabbitのコードベース内に重要なAPIキーが直書きされていたと公表した。これによりR1端末が過去に出力した全履歴の閲覧や端末の遠隔操作が可能だったとされる。Rabbit側は6月25日に報告を受け調査中であり、現時点でデータ流出は確認されていないと説明している。
全米レコード協会がSunoとUdioを提訴：AI学習は「フェアユース」か
米レコード協会（RIAA）は月曜日、AI楽曲生成サービスのSunoとUdioを著作権侵害で提訴した。許諾なしに大量の音源を学習データとして取り込んだと主張し、1作品あたり最大15万ドルの損害賠償を求めている。AIの学習が「フェアユース（公正利用）」と認められるかどうかが最大の争点だ。
Anthropicが政府向け展開を拡大：Claude 3が米政府専用AWSクラウドに登場
AnthropicはClaude 3 HaikuとSonnetをAWS GovCloudおよび米情報機関専用マーケットプレイスに投入したと発表しました。規約に例外を設け、人身売買対策や軍事活動の警戒など合法的な情報分析での利用を許可する一方、兵器設計やサイバー攻撃への利用禁止は維持されます。
音楽大手3社がSunoとUdioを提訴：著作権侵害でのAI学習を巡り数十億ドルの賠償請求へ
ユニバーサル、ワーナー、ソニー・ミュージックの大手3社が、AI音楽生成サービスのSunoとUdioを著作権侵害で提訴した。許諾なく著作権楽曲をモデルの学習に使用したと主張し、侵害1件あたり最大15万ドルの損害賠償を求めている。画像やテキストに続き、著作権を巡る法廷闘争が音楽AIにも本格的に波及した格好だ。
規制リスクを懸念：Apple、欧州でApple Intelligenceの年内提供を見送り
AppleはEUのデジタル市場法（DMA）に伴う規制の不確実性を理由に、欧州市場で「Apple Intelligence」やiPhoneミラーリングなどの新機能の年内提供を見送ると発表しました。相互運用性要件がユーザーのプライバシーと安全性を脅かすリスクがあるとしており、解決策を模索するため欧州委員会と協議を続けています。
AI企業が「robots.txt」を無視して無断スクレイピング、TollBitが告発
ロイターの報道によると、コンテンツ許諾スタートアップのTollBitは、複数のAI企業が長年守られてきたrobots.txtを無視し、無断で記事をスクレイピングしている実態を明かした。ForbesがPerplexityを告発するなど反発が強まる中、Webサイト側の従来の自衛策が形骸化している。
OpenAI、セキュリティ助成の成果を報告：Teamや企業版の無償提供も拡大
OpenAIはサイバーセキュリティ助成プログラムの成果を報告した。600件超の応募からプロンプトインジェクション対策やコード脆弱性修正などの研究を支援。さらに防御側のAI活用を後押しするため、研究者への無償提供枠を従来のChatGPT PlusからTeamおよびEnterpriseにも拡大する。
Apple Intelligence、AI編集画像にメタデータを付与へ 不要物消去も記録
Apple のソフトウェアエンジニアリング担当上級副社長クレイグ・フェデリギ氏が明かしたところによると、Apple Intelligence で生成・編集した画像にはメタデータが記録され、AI による変更が明記されるという。背景の不要物消去といった軽微な加工も対象となる。同社は実在の人物や場所をリアルに描く生成技術は目指さない方針だ。
元OpenAIのIlya Sutskever氏、新会社「SSI」を設立 安全な超知能の開発に特化
OpenAIの共同創業者兼元主任科学者のIlya Sutskever氏は新会社Safe Superintelligence Inc.（SSI）の設立を発表した。短期的な製品化サイクルや商業的圧力から隔離された環境で、安全で強力な超知能の実現という単一の目標に注力するという。
Meta、画像・テキスト混在のChameleonや音声電子透かしなど5つの研究モデルを公開
MetaのFAIRチームは新たな5つのAI研究成果を公開した。画像と文章を同時処理できるChameleon、和音やビートで制御可能な音楽生成JASCO、検出速度を最大485倍に高めたAI音声透かしAudioSealなどが含まれる。
米政府とテック大手が初演習：AIシステム標的のサイバー攻撃を模擬
先週、米CISAはマイクロソフト、OpenAI、エヌビディアらと共同で、重要AIシステムを標的とした初のサイバー攻撃机上演習を実施しました。約50名の専門家が未知の脅威シナリオや連絡体制を検証し、成果は年内公開予定のインシデント対応指針に反映されます。
OpenAIが元NSA長官を取締役に起用、スノーデン氏は猛反発
OpenAIは元NSA長官のポール・ナカソネ氏を取締役会の安全・セキュリティ委員会に任命した。同社はAIスパコン保護などサイバー防御の強化を理由に挙げるが、エドワード・スノーデン氏は「全人類の権利に対する背信行為」と非難し、OpenAIを信じるなと警告している。
Meta、欧州での「Meta AI」提供を一時停止 アイルランド当局の要請受け
Meta は、アイルランドデータ保護委員会（DPC）からの要請を受け、欧州での Meta AI 導入計画を一時停止すると発表した。AI 学習への公開データ利用をめぐりプライバシー上の懸念が生じたためだ。Meta は現地のデータがなければ「二流の体験」しか提供できないと失望を表明している。
OpenAI、米陸軍元大将の中曽根氏を取締役に任命：安全委員会にも参画
OpenAIは米陸軍元大将のポール・ナカソネ氏が取締役に就任したと発表した。米サイバー軍を率いたサイバーセキュリティの第一人者で、安全保障委員会にも加わる。大規模なAIトレーニング環境やモデルの重みデータをサイバー攻撃から守る体制の強化が狙いだ。
本物の写真でAI画像コンテストに入賞した写真家、失格処分に
報道によると、写真家のマイルズ・アストレイ氏が本物のフラミンゴ写真で「1839カラー写真賞」のAI部門に応募し、3位と一般投票賞を受賞した。審査員は本物だと見抜けず、後にAI生成ではないとして失格になった。本人は自然の力が機械に勝てることを証明したかったと語る。
Meta AIがFacebookのコメント要約を開始、混沌とした口論まで忠実に再現
The Vergeの報道によると、MetaはFacebookアプリのコメント欄でMeta AIによる自動要約機能をテストしている。投稿に寄せられた奇抜な意見やジョーク、毒舌なやり取りまでまとめて表示されるが、ユーザーの間では実用性への疑問やデータ学習を巡るプライバシーの懸念が高まっている。
GoogleがAI Overviewsの誤回答に対処、皮肉やフォーラム投稿の引用を制限
GoogleはAI Overviewsで奇妙な回答が多発した問題を受け、10項目以上の技術的改善を実施したと発表した。皮肉やユーモアの誤認、掲示板などのユーザー投稿コンテンツが誤回答の原因として挙がり、そうした情報の参照や機能のトリガーを制限した。
米カリフォルニア州知事、AIへの過剰規制に警鐘
カリフォルニア州のギャビン・ニューサム知事はGenAI Summitで登壇し、過度な規制がイノベーションを阻害し主導権を失うリスクを警告した。大手AI企業の多くが拠点を置く同州において、適切なバランスを保った規制が必要だと強調した。