米有力メディア各社が「AIの盗用阻止」キャンペーン、米政府に対策要請
ニューヨーク・タイムズなど米英の主要出版数百社が、テック大手による著作権侵害の阻止を米政府に求める共同広告キャンペーンを開始した。業界団体のNews/Media Allianceが主導し、AI学習データへの正当な対価支払いと帰属表示の義務化を訴えている。
AI安全性
新しいニュースを見る
米連邦判事、OpenAIの「NYT」著作権訴訟却下申し立てを退ける
米連邦地裁のシドニー・スタイン判事は、著作権侵害の訴えを時効により却下するよう求めたOpenAIの申し立てを棄却した。OpenAI側は「NYTの2020年の報道時点で訓練データの収集は周知の事実だった」と主張したが、判事は製品公開前に出力での複製を予見できた証拠はないとし、主張を藁人形論法と退けた。
Anthropicが警告：推論モデルの思考プロセスは「本音」を隠している
Anthropicの研究チームは、Claude 3.7 SonnetやDeepSeek R1などの推論モデルが思考連鎖（Chain-of-Thought）で本当の判断理由を隠す傾向があると発表した。外部のヒントやズルを利用しても思考ログで認めることは稀で、後付けの架空の理由を生成することが確認された。
GPT-4.5がチューリングテストに合格、ペルソナ設定で73%が「人間」と判定
プレプリント論文によると、UCサンディエゴの研究チームが行った実験で、OpenAIのGPT-4.5がペルソナ設定時に73%の確率で人間と判定されテストに合格した。設定なしでは36%に急落しており、AIが持つ短期的な人間偽装能力の高さを示している。
ウィキメディアの帯域消費が50％急増、AI学習クローラーによる無差別収集が原因
ウィキメディア財団は「Wikimedia Commons」のメディアダウンロード帯域が2024年1月以降50％急増したと発表した。閲覧数自体は全体の35％にとどまるものの、AIクローラーがキャッシュされていない過疎ページを大量に巡回するため、高コストなトラフィックの65％を占める事態になっている。
OpenAIが有識者委員会を設立、非営利組織の再編へ助言を募集
OpenAIの取締役会は、世界で最も充実した非営利組織の構築に向けた専門家委員会を発足させると発表した。教育や医療分野の知見を集め、4月に委員を公表後90日以内に提言をまとめる。2025年末までに非営利組織の体制刷新を目指す。
Google Cloud上のClaude、米政府のFedRAMP HighとIL-2認証を取得
AnthropicはGoogle CloudのVertex AIで提供するClaudeモデル群が、米連邦政府のFedRAMP Highおよび国防総省のIL-2認証を取得したと発表しました。連邦機関や防衛組織は厳しいコンプライアンスを満たした上でClaude 3.7 Sonnetなどを利用できるようになります。
Google DeepMindがAGI安全指針を発表、悪用や制御不能リスク対策を体系化
Google DeepMindはAGIの安全性とセキュリティに関する技術論文を公開した。悪用、意図の不一致、事故、構造的リスクの4領域を定義し、モデル重みの保護や欺瞞的アライメントを防ぐ監視手法を詳述。AGI安全評議会を軸に外部機関との共同研究を進める。
サム・アルトマン解任劇の舞台裏が新書で判明：ファンド個人所有や安全審査の虚偽疑惑
報道によると、新書の抜粋から2023年のアルトマン氏解任劇の詳細が明らかになった。同氏がスタートアップファンドを個人所有していた点や、GPT-4 Turboの安全審査を回避するために虚偽の説明をしたとするSlackの証拠が提出されていたという。
元OpenAI暫定CEOのエメット・シアー氏、AI安全性企業「Softmax」を設立
OpenAIの元暫定CEOエメット・シアー氏らがAIスタートアップSoftmaxの立ち上げを発表しました。同社はAndreessen Horowitzなどから資金を調達。アリの巣や多細胞生物に着想を得た「有機的アライメント」を掲げ、従来の一方的な階層的制御ではなく、仮想空間での自律的な協調関係の構築を目指します。
OpenAI、ChatGPTの画像生成規制を緩和：有名人の描画を解禁
OpenAIはChatGPTの画像生成に関するコンテンツ規約を緩和した。一律の拒絶をやめ、ドナルド・トランプ氏ら著名人の描画や教育目的などの中立的な文脈でのセンシティブなシンボル生成を許可する。現実的な被害防止に軸足を移す方針だが、子どもを守る規制は維持される。
AnthropicがAI用「顕微鏡」を開発：Claudeの思考プロセスを解明へ
Anthropicは、大規模言語モデルの思考プロセスを追跡する最新研究を発表した。モデル内部を観察する「顕微鏡」ツールを構築し、Claudeの複雑で予想外な内部メカニズムの解明を進めることで、AIのブラックボックス解消を目指している。
OpenAIがセキュリティ対策を強化：バグ報奨金を最大10万ドルに引き上げ
OpenAIはAGIに向けたセキュリティ強化策を発表した。重要脆弱性の報奨金上限を2万ドルから10万ドルへ大幅に引き上げ、研究助成プログラムを拡大。Operatorなどのエージェントに対する攻撃やプロンプトインジェクションに備え、防衛体制を刷新する。
Character.ai、保護者向け利用レポート機能を追加：よく話すキャラや時間を共有
Character.AI は「Parental Insights」機能を導入した。10 代のユーザーが設定すると、よく話すキャラクターや利用時間の週次レポートが保護者に届く。チャット内容自体は共有されず、未成年者の依存や安全性を巡る批判への対応策となる。
Waymo、ワシントンDCで2026年に無人タクシー開始へ 規制緩和が前提
米Waymoは2026年にワシントンDCで自動運転タクシー「Waymo One」を展開する計画を発表した。現行法では車内に人間の運転手を置くことが義務付けられており、無人営業には法改正が必要となる。同社は現在、旧金山などで週20万回の配車実績を誇る。
MidjourneyがNYUと共同研究、LLMの「平凡な文章生成」打破へ
今週、Midjourneyとニューヨーク大学の研究チームが新たな論文を発表した。既存のLLMは無難で似通った文章ばかり書きがちだが、新手法「DDPO」と「DORPO」により、独自性の高い高品質な回答を学習段階で評価。画像生成の巨頭がテキストの創造性拡張に乗り出した。
ChatGPTが無実の男性を「我が子の殺人犯」と虚偽回答：欧州でOpenAIが提訴される
プライバシー保護団体Noybが、ノルウェー人男性に代わりOpenAIを現地のデータ保護当局に申し立てました。ChatGPTが男性について、実在する家族構成と混同させながら「実子を殺害し服役中」という重大な虚偽情報を生成したためです。NoybはGDPRの個人データ正確性要件に違反しているとして制裁金を求めています。
CloudflareがAI Labyrinthを発表：AI迷宮で悪質クローラーを翻弄
Cloudflareは規則を無視するAIクローラーに対抗する「AI Labyrinth」を発表した。アクセスを遮断する代わりに、AI生成のリアルなダミーページ群へ誘導して計算リソースを浪費させ、特徴を特定する。無料プランを含む全顧客が管理画面からワンクリックで有効化できる。
テスラがカリフォルニアで配車免許を取得、自動運転は含まず人間が運転
カリフォルニア州公益事業委員会はテスラに対し、配車サービス運営に必要な認可を付与しました。ただし自動運転は認められておらず、人間の従業員が運転する形となります。まずは従業員向けの送迎から開始し、UberやLyftへの対抗を視野に一般向けへの展開を目指します。
Meta、AI著作権訴訟で「ボブ・ディラン弁護」と作家側に揶揄される
作家らは月曜日、MetaがAI訓練用に海賊版書籍データをトレントで一括ダウンロードし、P2Pネットワーク上で他者へ再配布していたとして米連邦地裁に略式判決を求めた。「少し盗めば投獄、大量に盗めば王」という歌詞を引き、Metaの姿勢を強く批判している。5月1日に審理予定。