AnthropicとPalantirが提携、Claudeを米防衛・諜報機関へ提供
AnthropicとPalantirはAWSと提携し、米国防および諜報機関向けにClaude 3と3.5を提供すると発表した。AWS上のPalantir AIPとIL6認証環境を活用し、機密データの迅速な分析を支援する。Claudeが政府の機密環境に導入される初の事例となる。
AI安全性
新しいニュースを見る
ByteDanceが「X-Portrait 2」発表：1枚の写真から映画の名演技を再現
ByteDanceは、1枚の静止画から映画のワンシーンのような自然で豊かな表情動画を生成するAI「X-Portrait 2」を発表した。従来の点追跡ではなく顔全体の筋肉の動きを直接学習。ディープフェイクへの悪用懸念から、コードの一般公開は見送られている。
トランプ氏勝利で米AI規制はどう変わるか：大統領令撤廃の行方
TechCrunchの報道によると、トランプ氏の米大統領選勝利を受け、バイデン政権のAI大統領令が初日に撤廃される可能性が高まっています。先端モデルに対する安全性報告義務が緩和される見通しの一方で、各州による独自の規制強化や貿易関税がAI産業に影響を与える懸念も指摘されています。
トランプ氏勝利で米AI規制はどう変わる？ バイデン大統領令撤廃の行方
トランプ氏の米大統領選勝利を受け、バイデン政権下の AI 大統領令が廃止される公算が高まっている。モデル脆弱性の報告義務など厳しい要件が撤廃され連邦レベルの規制緩和が進む一方、半導体輸出管理の強化や各州独自の規制加速が焦点となる。
AI安全の専門家、スタートアップに「減速」要請：安全検証を優先せよ
TechCrunch DisruptにてAI安全の専門家らが登壇し、過度なスピード重視の開発姿勢に警鐘を鳴らした。Character.AIを巡る訴訟や著作権侵害のリスクを挙げ、製品公開前のレッドチーム演習や倫理的な安全策の整備が不可欠だと訴えた。
Meta、防衛・国家安全保障用途でLlamaの米政府機関利用を解禁
Metaは同社の利用規約を特例として緩和し、米国の防衛および国家安全保障機関とその契約企業にLlamaの利用を認めると発表した。ロッキード・マーティンやオラクルなどの提携企業を通じて導入が進められ、英国、カナダ、豪州、NZの機関にも同様に提供される。
Instagram、AIで年齢を偽る未成年を検知へ：誕生日投稿も分析
Metaは2025年初頭、Instagramで年齢を偽る未成年者を検知するAIツール「成人分類器」を導入する。フォロワーや閲覧傾向に加え、友人からの誕生日メッセージなども分析して18歳未満と判定された場合、制限付きのティーンアカウントへ自動移行させる。
マイクロソフト、物議を醸す「Recall」の提供を12月に再延期
マイクロソフトはCopilot Plus PC向けのAI検索機能「Recall」のプレビュー配信を12月へ再延期すると発表しました。当初予定していた10月から後ろ倒しし、完全なオプトイン化やアンインストール対応、Windows Hello認証によるデータベース暗号化などセキュリティ刷新に時間を充てます。
ElevenLabsが「X to Voice」公開、Xのアカウントから固有音声を生成
ElevenLabsは先週、Voice DesignのAPI公開に合わせてオープンソースの「X to Voice」を発表した。Xのユーザー名を入力するとプロフィールや投稿を分析し、最適な音声サンプル3種と口パク付きのアイコン動画を生成する。API経由で独自キャラの音声開発も可能になる。
OpenAI、事実性ベンチマーク「SimpleQA」公開：GPT-4oの正解率は40％未満
OpenAIはAIのハルシネーション（幻覚）を測る新ベンチマーク「SimpleQA」をオープンソース化。明確な単一の答えがある4326問で構成され、GPT-4oでも正解率は40％未満にとどまる。AIが誤答にもかかわらず高い自信を示す「過信」の度合いも数値化できる。
OpenAIの文字起こしAI「Whisper」に深刻な幻覚問題、テストの8割で虚偽記述
米AP通信によると、研究者らがOpenAIの音声認識モデル「Whisper」で深刻なハルシネーションを確認した。ミシガン大学の調査では音声の80%で虚偽記述が発生し、架空の医療処置を捏造する例も見られた。高リスク業務への利用には注意が促されている。
マイクロソフトが反論：Recall機能の無断インストール疑惑を否定、完全アンインストール対応を明言
MicrosoftはWindows 11 24H2にAI機能「Recall」が勝手に導入されているとの噂を否定しました。同社はRecallが完全なオプトイン方式であり、手動での完全アンインストールも可能であると改めて説明。現行ビルドに見られる関連コードは削除対応用の空パッケージに過ぎないとされています。
OSIが「オープンソースAI」の公式定義を公開：MetaのLlamaは対象外に
Open Source Initiative（OSI）が「オープンソースAI定義（OSAID）」1.0を公開した。学習コード全体の提供やデータの出所開示、無制限の改変・利用を義務付けており、大規模商用利用に制限を設けるMetaのLlamaなどは基準を満たさなくなる。
ユニバーサルミュージック、AI企業KLAYと提携 倫理的音楽モデル開発へ
ユニバーサルミュージックグループ（UMG）は AI スタートアップの KLAY との提携を発表した。著作権を尊重した大規模音楽モデル「KLayMM」を共同開発する。既存の配信楽曲と競合せず、正確な権利帰属を実現する仕組みを目指しており、数カ月以内の提供を予定している。
Redditユーザーが偽情報を拡散、GoogleのAI Overviewsを混乱させる
ロンドンのRedditユーザーが愛用レストランを観光客から守るため偽の推薦情報を投稿し、GoogleのAI Overviewsが誤情報を真に受けて要約する事態が発生している。掲示板などのユーザー生成コンテンツをAI検索の情報源に頼る危うさが露呈した格好だ。
米連邦地裁、カリフォルニア州の選挙AIディープフェイク規制法を一時差し止め
米連邦地裁の判事が、選挙関連のAIディープフェイク拡散を規制するカリフォルニア州法「AB 2839」の執行を一時的に差し止めました。ハリス副大統領のパロディ動画を巡る訴訟を受けたもので、表現規制の範囲が広すぎると判断されました。
ハーバード大生、Metaのスマートグラスで通行人の個人情報をリアルタイム特定するデモを公開
ハーバード大の学生2名がMetaのスマートグラスと既存の顔認識ツールを組み合わせたデモ「I-XRAY」を公開した。配信映像からAIが顔を検出し、公開データベースやLLMと連携して通行人の氏名や住所、電話番号を即座に割り出す。現行技術の悪用リスクを警告する目的で作られ、一般公開はされない。
Midjourneyで絵画賞を受賞した作者、著作権保護を求め米著作権局を提訴
2022年にMidjourney製画像で芸術賞を獲得し波紋を呼んだJason M. Allen氏が、同作の著作権登録を拒絶した米著作権局を相手取り連邦裁判所に控訴した。Allen氏は作品が無断盗用・転売され多額の損害を受けているとし、プロンプト入力や画像修正は人間の創作活動だと主張している。
Anthropic、OpenAI共同創業者ダアク・キングマ氏を採用
OpenAI 共同創業者であるダアク・キングマ氏が Anthropic への移籍を発表した。オランダからリモート勤務する予定。同氏は OpenAI や Google Brain で生成 AI 基礎研究を率いてきた人物で、Anthropic は 5 月のヤン・ライケ氏、8 月のジョン・シュルマン氏に続く重要幹部の獲得となる。
マイクロソフト、Copilot+ PC向けにClick to Doや刷新版Recallを発表
マイクロソフトはCopilot+ PCおよびWindows 11向けの新AI機能を発表した。画面上のコンテンツに応じて操作を促す「Click to Do」やオフラインでの自然言語ファイル検索、写真の8倍超解像度化を追加。延期されていた「Recall」もオプトイン制と生体認証を導入し、Windows Insider向けに提供を再開する。