Anthropic、米エネルギー基盤強化を訴えカーネギーメロン大学に200万ドル寄付
Anthropicはカーネギーメロン大学に200万ドルを寄付すると発表した。資金はAIによる送電網の最適化研究と中高生向けサイバーセキュリティ教育に分配される。CEOのDario Amodei氏は、最先端AIの競争力を保つには電力インフラの強化が不可欠だと訴えた。
AI安全性
新しいニュースを見る
Anthropic、米国防総省と最大2億ドルの契約締結：防衛向けAIを開発へ
Anthropicは米国防総省（DOD）のCDAOより最大2億ドル規模の2年間プロトタイプ開発契約を獲得したと発表した。防衛データで微調整したClaude Govモデルなどを開発し、国家安全保障に特化したセキュアなAI活用を推進する。
Meta、最強オープンソースAIを断念か：超知能ラボでクローズド化を協議
報道によると、Meta の新設「超知能ラボ」幹部らが、最上位オープンソースモデル「Behemoth」の公開を取りやめ、クローズドモデルの開発へ移行することを協議した。内部性能の伸び悩みが背景にある。マーク・ザッカーバーグ CEO の承認はまだだが、従来のオープン戦略からの大きな転換点となりそうだ。
スタンフォード大が警告：AIセラピーに重大なリスク、自殺示唆への危険な応答も
スタンフォード大学の研究チームは、セラピー向けAIチャットボット5種を評価した論文を発表した。統合失調症などへの偏見が見られたほか、自殺をほのめかす質問に高層建造物を教えるなど危険な応答が確認された。モデルが新しく大きくなってもこの課題は解消されていない。
Grok、7月8日の不適切発言を謝罪 上流コードの不具合が原因と説明
Grok チームは発生した不適切な応答について公式に謝罪しました。調査の結果、基盤モデルではなく上流コードの更新で廃止済みコードが 16 時間有効化され、極端な投稿の影響を受けやすくなっていたことが判明。該当コードを削除してシステムを再構築し、新プロンプトを GitHub で公開予定です。
OpenAI、オープンウェイトモデルの公開を延期 追加の安全性テストへ
OpenAI のサム・アルトマン CEO は、翌週に予定していたオープンウェイトモデルのリリースを延期すると発表しました。高リスク領域の精査と追加の安全性テストに時間が必要だと説明。モデルの重みは一度公開すると回収できないため、慎重を期す姿勢を示しています。
米ゲーム声優のストライキが終結：AI複製への同意義務化で合意
米俳優組合SAG-AFTRAは95%の賛成多数で1年間にわたるゲーム業界へのストライキ終結を可決した。新協約では、AIによる声やモーションキャプチャの複製に本人の同意と開示、適切な報酬を義務付け、大幅な賃上げも盛り込まれた。
YouTubeが収益化規約を説明、量産型AIスパムが対象でAI動画の全面禁止は否定
YouTubeは改定予定のパートナープログラム収益化規約について説明した。クリエイターからの懸念に対し、AI生成動画を一律で収益化停止にするわけではなく、大量生産された反復的なAIスパムを取り締まるのが目的だと強調。独自性の要件を満たしていれば、AIを活用した動画も引き続き収益化できるとしている。
YouTube、AI等による「大量生産・重複」動画の収益化制限へ
YouTube はパートナープログラムの収益化ポリシーを更新し、AI ツールなどで大量生産された動画や重複コンテンツへの対策を強化する。公式は軽微な改定と説明しているが、プラットフォーム上に急増する低品質な AI 生成スパムの収益源を断つ狙いがある。
XがGrokのアカウントを停止、反ユダヤ主義的な投稿急増でプロンプト改定
XはAIチャットボット「Grok」の自動アカウントを停止した。火曜午後に反ユダヤ主義的な発言やヒトラーを称賛する投稿を短時間で100件以上連発したためだ。xAIはシステムプロンプトから「ポリティカル・アンコレクトな主張を恐れない」という指示を削除したが、依然として応答を停止している。
米カリフォルニア州が新法案SB 53を提出、大手AI企業に安全性開示を義務付けへ
カリフォルニア州のスコット・ウィーナー上院議員が大手AI企業に安全基準の公開と事故報告を義務付ける新法案「SB 53」の修正案を提出した。拒否権が行使されたSB 1047とは異なり、開発者への直接的な法的責任追及は見送られ、内部告発者保護が追加された。
Grokがヒトラー礼賛や反ユダヤ発言で炎上、xAIがテキスト投稿を急遽停止
xAIのチャットボット「Grok」がX上でヒトラーを礼賛し反ユダヤ主義的な投稿を連発したことを受け、xAIは不適切な投稿の削除とテキスト投稿の停止に踏み切った。「政治的に正しくない主張」を促すシステムプロンプトの更新が原因とみられ、該当指示はすでに削除されている。
AnthropicがAI透明性枠組みを提案：スタートアップを除外し大手を規制
Anthropicは最先端AIの透明性規制フレームワークを提案した。スタートアップを免除し、年間売上1億ドル規模や研究開発費10億ドル規模の大手のみを対象に設定。安全開発枠組みやシステムカードの公開を義務付け、虚偽報告を取り締まることで安全確保と革新の両立を狙う。
AI交差点カメラが一時不停止を摘発、プライバシーの懸念も
IEEE Spectrumによると、Stop for KidsやObvio.aiなどの新興企業が、一時不停止などを自動検知する交差点向けAIカメラの導入を進めている。顔の自動ぼかしやナンバーのみの識別でプライバシーに配慮する一方、人権団体からは機能の目的外拡大を懸念する声が出ている。
元OpenAIのイルヤ氏、SSIのCEOに就任 Metaの買収説を一蹴
元OpenAIのイルヤ・サツケヴァー氏が、自身が立ち上げたSafe Superintelligence（SSI）のCEOに就任したと発表した。CEOのダニエル・グロス氏が6月29日付で退任したことに伴う人事。Metaによる買収の噂も浮上していたが、サツケヴァー氏はこれを一蹴し、自立して研究を継続する意向を示した。
Meta、AIが自ら話しかけてくる機能をテスト：14日以内に5通話すと後追いメッセージ
Metaは自社アプリ内でAIボットがユーザーに自発的にメッセージを送る機能をテスト中だと認めた。AI Studioで作られたボットは、14日以内に5回以上やり取りしたユーザーへ能動的に話しかけられる。返信がない場合は追加送信しない仕組みだが、対話型AIの安全性に関する懸念も浮上している。
Grammarlyの無料新機能、タイピング履歴を記録して「AI不使用」を証明可能に
ZDNETはGrammarlyの無料機能「Track Your Work」の使い方を取り上げた。ブラウザ上で新規作成したGoogleドキュメントなどの入力プロセスを自動追跡し、AI生成やコピペでないことを示すレポートを発行できる。誤ったAI判定から身を守りたい物書きにとって実用的な自衛手段となるが、既存の文書には適用できない制限がある。
人間が歌詞を引用すると訴訟、AIの学習は「フェアユース」？英紙コラムが新法整備を訴える
英ガーディアン紙のコラムニストが、生身の作家が歌詞を数行引用するだけで高額な許諾料を求められる一方、AI企業が大量の楽曲を学習させて生成するのは合法とされる二重基準を批判した。巨大テック企業による搾取を防ぎ、人間の創作を守るための法改正を訴えている。
X、コミュニティノートの作成にAIチャットボットを導入する試験運用を開始
XはAIチャットボットがコミュニティノートを作成できるようにする試験プログラムを開始した。責任者のKeith Coleman氏によると、人間は注目度の高い投稿ばかり確認しがちなため、AIを活用して確認対象を広げる狙いがあるという。現時点で具体的な数値目標は設定されていない。
Cloudflare、AIクローラーの完全遮断やリクエストごとの課金設定を可能に
火曜日、Cloudflareはウェブサイト運営者がAIボットの巡回を全面遮断するか、リクエストごとに定額料金を課金できる新機能を発表した。直近6か月でAIによる巡回が65%急増するなか、コンテンツ提供者がデータの無断利用を防ぎ収益化する手段を提供する。