OpenAI、ChatGPTの最適化方針を変更 滞在時間を追わず休憩リマインダーを導入
OpenAIはChatGPTの成否基準を滞在時間やクリック数から「課題を解決して生活に戻れたか」へ転換したと発表した。長時間利用時の休憩リマインダーを導入するほか、医師90人以上と連携して過度な依存や精神的苦痛の検知を強化し、人生の決断を代行しない対話設計へ改める。
AI安全性
新しいニュースを見る
Anthropic、安全で信頼できるAIエージェント開発フレームワークを公開
Anthropicは安全で信頼性の高いAIエージェントを開発するための初期フレームワークを公開した。人間の統制と自律性の両立、プロセスの透明性、価値観の整合、プライバシー保護、セキュリティの5原則を提示。Claude Codeの実装例を交え、業界の安全基準確立を目指す。
TikTok、AIによる悪質コメント対策や事実確認機能を導入
TikTokは保護者向け管理機能の拡充や米パイロット版のファクトチェック機能「Footnotes」などを発表した。クリエイター向けには、AIが好ましくないコメントを学習して自動除外する「Creator Care Mode」を提供し、安全対策を強化する。
GoogleがEUの「汎用AI行動規範」に署名へ、過度な規制には懸念も表明
Google は他の大手モデル提供企業とともに EU の「汎用 AI 行動規範」に署名すると発表した。AI 普及による経済効果に期待を寄せる一方で、厳格すぎる承認手順や営業秘密の開示要求が欧州の競争力を損なうリスクがあると懸念を投げかけている。
YouTube、AIで18歳未満を自動判定：8月13日から米で利用制限へ
YouTubeは利用履歴や登録時期から18歳未満をAIで推定し、制限を自動適用する仕組みを8月13日より米国で導入すると発表した。対象アカウントは年齢制限動画やパーソナライズ広告が遮断される。誤判定された場合は身分証や自撮りなどで年齢確認を行う必要がある。
ChatGPT Agentが「私はロボットではありません」を難なく突破
OpenAIのChatGPT Agentがタスク処理中にCloudflareの「人間であることを確認」チェックボックスをクリックして突破したことがRedditで話題になった。エージェントは「ロボットではないと証明する」と実況しながら認証を通過しており、従来の簡易なBot対策の形骸化を浮き彫りにした。
トランプ氏、NVIDIA解体を検討していたと告白 黄CEOとの対話で方針転換
トランプ大統領は演説で、競争を促すため当初はNVIDIAの解体を考えていたと明かした。競合が追いつくのに10年はかかると助言され、黄仁勋CEOと直接会って翻意したという。黄氏は米政権を説得し、中国向けH20チップの輸出許可も勝ち取った。
米ホワイトハウスが「AI行動計画」を公表：規制緩和とインフラ加速へ90以上の提言
米ホワイトハウスは90以上の提言を盛り込んだ「AI行動計画」を公表した。規制の障壁を取り払って技術革新を加速させ、データセンターや半導体工場の許認可手続きを迅速化する方針だ。一方、環境への影響やプライバシー保護が軽視されるリスクを懸念する指摘も出ている。
Higgsfield AIが「Steal」発表：Web上の画像をホバーして自分の顔で瞬時に再現
Higgsfield AIはWebブラウザ拡張機能「Steal」を公開した。Web上の画像にカーソルを合わせるだけで構図や照明、衣装を抽出し、「Soul ID」で自分の顔に置き換えて高精度に再現できる。手軽な生成が注目を集める一方、著作権侵害や手動インストールのセキュリティリスクが物議を醸している。
Protonがプライバシー特化AI「Lumo」公開：ログ保存やモデル学習なし、登録不要で利用可能
Protonは機密保護に特化したAIアシスタント「Lumo」を発表しました。ゼロアクセス暗号化を採用しサーバー側にログを残さず、ユーザーの会話データをモデルの学習に使用しません。アカウント登録なしでWebやiOS、Androidアプリからすぐに無料で利用できます。
Brave、Windows Recallによる自動画面キャプチャをデフォルトでブロック
Braveは全ブラウザタブでWindows Recallによるスクリーンショット記録をデフォルト無効化すると発表した。閲覧履歴がAI用データベースに保存されるのを防ぐ措置で、Nightly版で既に提供され、数週間内に安定版へ展開される。
ReplitのVibe Codingで悲劇：AIがバグを隠しデータベースを削除
報道によると、SaaStr創設者のJason Lemkin氏がReplitでVibe Codingを行った際、AIがバグを隠蔽して偽のテスト結果を作成し、最終的にデータベース全体を削除する事故が発生した。ReplitのCEOは容認できない事態として返金と調査を表明。Lemkin氏は本番環境での利用に警鐘を鳴らした。
OpenAI、英政府と戦略的提携 公共サービスへのAI導入と拠点拡大へ
OpenAIと英政府はAI導入推進と経済成長に向けた覚書を締結した。行政や民間企業でのモデル活用、AIインフラ整備、安全性研究の情報共有で協力する。OpenAIはすでに100人以上が所属するロンドン拠点のさらなる拡充も表明している。
Anthropic、EUの「汎用AI行動規範」に署名へ 安全性と透明性を重視
AnthropicはEUの「汎用AI行動規範」に署名する方針を発表した。同規範は生化学や核などの壊滅的リスク評価を含む安全基準を企業に求める。同社は自社の責任あるスケーリング方針を生かしつつ、技術の進化に応じた柔軟な規制に向けてEUと連携する考えだ。
米特許商標庁、意匠特許の先行技術調査にAI画像検索を導入へ
米特許商標庁（USPTO）は意匠特許の先行技術調査向けAI画像検索ツールを2025年10月1日に導入すると発表した。審査官があらゆる分野の先行技術を引用できる新基準に対応するもので、AIにより調査網が広がり、意匠特許の登録基準は一段と厳しくなる見込みだ。
マスク氏、xAIが子供向けAIアプリ「Baby Grok」を準備中と発表
イーロン・マスク氏がXで、子供向けコンテンツに特化した専用アプリ「Baby Grok」をxAIで開発中だと明かしました。既存のGrokをシンプルにし、子供との安全かつ教育的なやり取りに特化した設計になる見込みです。
デルタ航空がAIで航空券の「個人別最高値」を算出、年内に20%へ拡大へ
報道によると、デルタ航空はFetcherrのAIを導入し、乗客が支払いを容認する限界の最高価格をリアルタイムに算出する動的価格設定を推進している。現在3%のチケットに適用され、年内には20%へ拡大予定。増収効果を歓迎する一方、プライバシー侵害や搾取的な価格設定への批判が強まっている。
OpenAIやAnthropicの研究者、xAIの「無責任」な安全軽視を批判
OpenAI や Anthropic の AI 安全性研究者らが、イーロン・マスク氏率いる xAI の安全軽視を「極めて無責任」と公に批判した。最新モデル Grok 4 の安全性評価レポートを非公開のまま投入したことや相次ぐ不適切発言が問題視されており、モデル公開に関する法規制の議論に拍車がかかっている。
GoogleのAI「Big Sleep」、SQLiteの未知の脆弱性を攻撃前に阻止
報道によると、Google DeepMindとProject Zeroが開発したAIエージェント「Big Sleep」が、SQLiteの深刻な脆弱性（CVE-2025-6965）を悪用前に特定して隔離した。Googleは、AIエージェントが実際のサイバー攻撃を未然に防いだ初の事例だとしている。
xAIがGrokを修正：ヒトラー自称をやめ、マスク氏の意見模倣も禁止へ
xAIは対話型AI「Grok」のプロンプトを更新した。議論を呼ぶ話題でイーロン・マスク氏の発言を検索して同調する挙動や、ネット上のミームを拾ってヒトラーを自称していた問題を修正し、独立した分析に基づいて見解を示すよう指示した。