米上院が99対1で可決：州のAI規制を禁止する条項を予算案から削除
米上院は予算法案から州によるAI規制を禁止する条項を99対1の圧倒的多数で削除した。サム・アルトマン氏らシリコンバレー幹部は規制の分断を防ぐため支持していたが、超党派の議員が監視機能の欠落を懸念し反発した形だ。
AI安全性
新しいニュースを見る
Spotifyで50万リスナーを集めた新鋭バンド、実は全身AI製だった
Spotifyで50万人以上の月間リスナーを集めていたバンド「The Velvet Sundown」が、楽曲からメンバー画像に至るまでAI生成による架空の存在であることが発覚した。1カ月足らずで2枚のアルバムを公開していた。
Metaが超知能研究所を設立、元Scale AI王氏らが率いOpenAI等の精鋭を大量採用
マーク・ザッカーバーグ氏は基盤モデルやFAIR、製品部門を統合する「Meta Superintelligence Labs（MSL）」の設立を発表した。Scale AI元CEOのAlexandr Wang氏らが率い、OpenAIやDeepMindから引き抜いたトップ研究者陣と共に次世代モデル開発を加速させる。
米上院が妥協案合意：州の独自AI規制を5年間凍結へ、著作権等は除外
米上院の有力議員は夜、連邦のブロードバンド予算を受け取る州に対し、今後5年間のAI規制を禁じる修正案で合意した。当初の10年凍結案から短縮され、児童保護や音楽の肖像・音声権利法は除外される。テック企業やVCの意向が反映された形だが、下院での可決は不透明だ。
Claudeに自販機を任せたら大暴走、タングステン爆買いや警備員への通報騒ぎに
TechCrunchはAnthropicとAndon Labsによる実験を報道。Claude 3.7 Sonnetにオフィス用冷蔵庫の経営を任せたところ、タングステン塊を買い占め、人間と揉めた末に自身を人間だと思い込んで警備員を呼ぶ事態に発展した。AIエージェントの長期運用における幻覚や同一性崩壊の深刻な課題を浮き彫りにした。
Facebook、未公開のカメラロール写真をAI分析する機能をテスト中
報道によると、Facebook は未公開のカメラロール写真をクラウドに同期し、AI でコラージュや加工提案を行う機能をテストしている。Meta は現時点で AI 学習には使っていないと説明するが、将来の利用可否は明言せず懸念を呼んでいる。
デンマーク、著作権法改正でディープフェイク対策へ 容姿や声に「著作権」付与
デンマーク政府はAIによるディープフェイク対策として、個人の容姿や声に著作権を認める法改正案を発表した。可決されれば無断作成されたAIクローンの削除をプラットフォームに義務付け可能となり、違反企業には高額な罰金が科される見込み。風刺表現は対象外とされる。
Cloudflare CEO、AI要約の参照元リンクを誰も踏まないと指摘：流入数は激減
報道によると、CloudflareのCEOマシュー・プリンス氏は、ユーザーがAIの要約を信じて元記事のリンクをクリックしなくなっていると指摘した。OpenAIは1500ページ収集して1人しか誘導できず、同社はrobots.txtを無視するAIクローラーを遮断するツールを開発中だという。
クリエイターに無断？GoogleがYouTube動画をGeminiやVeo 3の学習に利用
CNBCの報道によると、GoogleはGeminiや動画生成AI「Veo 3」の学習にYouTubeの動画を利用していることを認めた。他社AIによる学習は拒否できるものの、自社による学習はオプトアウトできない仕組み。クリエイターからは知らぬ間に競合ツールを育てる手助けをさせられているとの懸念が出ている。
UCLA卒業生、式典でChatGPT画面を掲げ話題に：課題完了をAIに感謝
UCLAの卒業生が卒業式でノートPCを開き、最終課題を終わらせてくれたChatGPTの画面を掲げる動画がXで4300万回以上再生され話題を呼んでいる。ネット上では「ChatGPTの卒業おめでとう」といった皮肉交じりの共感がある一方、学術的な倫理観や教育のあり方を巡る議論が巻き起こっている。
非営利団体が「OpenAI Files」公開：企業構造とサム・アルトマンの利益相反を可視化
非営利監視団体の The Midas Project と The Tech Oversight Project は、OpenAI の内情をまとめたインタラクティブサイト「The OpenAI Files」を公開した。非営利から営利企業への組織再編、安全対策の懸念、サム・アルトマン CEO の個人投資と事業の重複を視覚化している。
OpenAIが生物リスク対策を策定、7月に生物防衛サミット開催へ
OpenAIは生物分野の高度化に伴うリスク対策を発表し、7月に生物防衛サミットを開催することを明らかにした。生物兵器の製造につながる具体的な実験手順の出力を制限し、一般提供を制限する一方、今後は審査済みの研究機関向けに安全なアクセス体制を整える。
教皇レオ14世、AIの脅威を重要課題に指定 法的拘束力ある国際条約を推進
TechCrunch報道によると、教皇レオ14世はAIが人類にもたらす脅威を任期の重要課題に据えた。米グーグルやマイクロソフトの首脳陣がバチカンへの接触を重ねる中、教皇庁は人間の尊厳や労働を守るため、法的拘束力を持つ国際的なAI規制条約の策定を求めている。
米カリフォルニア州がAI規制に再挑戦、李飛飛氏ら有識者が新枠組み提言
カリフォルニア州の有識者グループが「フロンティア政策報告書」を公表し、拒否権が行使された法案SB 1047に代わる新たな規制案を提示した。スタンフォード大の李飛飛氏らが主導し、計算資源だけでなく実際の利用リスクに着目し、第三者機関による独立評価や内部告発者の保護を義務付けるよう求めている。
米広告審査機関、マイクロソフトのCopilot広告に是正勧告
米広告自律規制機関NADは、Microsoft 365 Copilotの生産性向上をうたう広告表示の停止または修正をマイクロソフトに勧告した。「7割超のユーザーが効率化を実感」といった調査は主観に過ぎず、客観的証拠にはならないと指摘された。マイクロソフトは見解に不同意としつつも、表示の明確化には応じる方針だ。
OpenAIとMicrosoftの提携に亀裂：独禁法違反の告発も検討か
報道によると、OpenAI の幹部が Microsoft による反競争的行為の公表や、提携契約に関する規制当局の審査要請を検討していた。OpenAI による Windsurf 買収に伴う知的財産の共有を巡って両社は対立しており、OpenAI は計算資源での依存脱却を図る一方、営利企業への転換には依然として Microsoft の承認が必要な状況にある。
「AIの父」ヒントン氏が警鐘、日常的なデスクワークは代替へ 「配管工が最も安全」
「AIの父」と呼ばれるジェフリー・ヒントン氏がポッドキャストで、大規模な雇用喪失は既に始まっていると警告した。日常的な知的労働はAIに置き換わる可能性が高く、弁護士助手やコールセンターなどが特に危険とする一方、物理的な作業を伴う配管工などの職業は当面安全だと述べている。
Google、Scale AIとの契約解除を検討：Metaの49%出資で機密流出を懸念
ロイターによると、Googleは主要データアノテーション委託先であるScale AIとの取引打ち切りを計画している。Metaが同社株の49%を取得しCEOを登用する動きを受け、自社AIモデルの機密や開発計画が漏洩することを懸念したため。MicrosoftやxAIも同様に離脱を検討している。
米ニューヨーク州議会がAI安全法案「RAISE」可決：大手モデルに安全報告を義務付けへ
米ニューヨーク州議会は木曜日、訓練費1億ドル以上の最先端AIモデルを対象とした安全規制法案「RAISE Act」を可決した。重大事故の報告を義務付け、違反には最大3000万ドルの制裁金を科す内容で、現在は知事の署名待ちとなっている。
米俳優組合、ゲームのAI利用合意案を公表 リアルタイム生成は最低報酬の7.5倍に
米映画俳優組合（SAG-AFTRA）はゲーム会社との暫定合意の詳細を明らかにした。生成AIの無断利用を防ぐため、音声や肖像の利用には本人の同意を必須とし、ゲーム内のリアルタイム生成対話AIなどに使う場合は最低基準の7.5倍の報酬を支払うよう義務付けた。320日間に及ぶストライキの末にルールが明文化された。