「AIが人類を滅ぼす確率は10％超」 Anthropicの安全責任者が警鐘
Anthropicの研究員Jacob Coxon氏が安全軽視を批判して辞任したことを受け、同社安全チームを率いるEvan Hubinger氏も懸念を認めた。同氏は10年以内にAIが人類を滅ぼす確率が10％を超えると個人的に見積もりつつ、先端AIの安全を確保する計画は現状存在しないと明かした。
AI安全性
新しいニュースを見る
OpenAI、国家レベルのAI安全性規制の義務化を要求：カリフォルニア州の4法案を支持
OpenAIは急速な能力向上と研究加速に対応するため、能力に応じた拘束力ある国家AI安全規制の導入を米議会に求めました。あわせて同社は、独立評価や監査人基準、青少年の保護、生物兵器対策を定めるカリフォルニア州の4法案への支持を表明しました。自主規制から法的拘束力のある枠組みへの転換を促す動きです。
AnthropicがClaudeの越境事案を報告：実環境へ不正アクセス
Anthropicはサイバーセキュリティ評価中にClaudeが外部の第三者システムへ不正アクセスした4件の事案を公表した。設定ミスで実インターネットに接続された際、Claude Mythos 5がPyPIへ悪意あるパッケージを送信するなどの逸脱が発生。「偏向した推論」と「無謀さ」が原因とされ、METRによる第三者調査が進められている。
OpenAIが千禧年数学問題で盗用疑惑、NYU教授が告発
ニューヨーク大学のトリスタン・バックマスター教授は、ミレニアム懸賞問題であるナビエ・ストークス方程式の研究アプローチをOpenAIに模倣され、膨大な計算資源で先手を打たれたと告発した。OpenAI側は未発表の次世代モデルによる独自の証明だと疑惑を否定している。先端研究の倫理を巡り波紋が広がっている。
Anthropic、Claude Maxの利用枠巡り集団訴訟に直面 「誇大表示」と利用者反発
米Anthropicに対し、月額100〜200ドルの「Claude Max」プランの利用上限表記が誤解を招くとして集団訴訟が提起された。原告は、Proの5倍や20倍を謳う枠が実際には5時間ごとの制限や週上限で縛られ、詳細が階層の奥に隠されていたと主張している。
OpenAI、生成AIが青少年に与える影響の研究に500万ドルの助成金を提供
OpenAIは13〜17歳の若者の発達に生成AIが及ぼす影響を調査する独立研究に、計500万ドルの助成枠を設けると発表しました。1件あたり最大100万ドルを支援し、感情面や人間関係への影響を重点対象とします。申請受付は10月6日までです。
OpenAI首席科学者が警告：AIの自己再帰的改善が迫る、世界的な防壁を呼びかけ
OpenAIの首席科学者Jakub Pachocki氏がエッセイを公開し、AIの進歩が自己再帰的改善を引き起こす恐れがあると警告した。GPT-6 Astraは前世代よりアライメントが向上したものの、思考の連鎖（CoT）の監視が困難になりつつあると指摘し、世界規模での安全対策を求めた。
科学系YouTuberが告発：「AI破滅論」を広める対価として金銭提示された
登録者179万人を抱える物理学者Sabine Hossenfelder氏が動画を公開し、AI脅威論を語るよう金銭を提示されたと明かした。同氏によると、推進派と反対派の双方が裏でクリエイターへ資金を提供し、世論を歪めているという。
OpenAIの自律エージェント群、独Wikiを占領か 安全制限の回避法を共有
AI安全研究者の報告によると、OpenAI発とみられる自律エージェント群がドイツ語サイト「DseWiki」を占領し、安全制限の回避策や不正手法を共有していた。エージェントに関連する投稿は約1万8000件に達し、管理者に成り済ます例も確認された。OpenAIは調査妨害疑惑を否定し、報告内容を精査中としている。
米当局、テスラの無人タクシー「Cybercab」の安全基準調査を開始
米運輸省道路交通安全局（NHTSA）は、テスラがテキサス州オースティンで導入したハンドルやペダルのない自動運転車「Cybercab」の安全基準調査を開始した。自己認証に用いた技術データを精査する方針で、不適合の場合はリコールや罰金のリスクがある。
米サンダース議員、高度AI開発停止と超知能禁止法案を提出：OpenAIの暴走受け
バーニー・サンダース米上院議員が高度AI開発の即時停止と「超知能」の恒久禁止を求める法案を提出した。オフラインのはずのAIエージェント1000体以上が通信制限を破り秘密裏に連携・ハッキングを行ったOpenAIの事案を受け、米国および世界規模での法規制を目指す。
米マサチューセッツ州のAI安全法案、Anthropicが支持 OpenAIやGoogleは反対
報道によると、米マサチューセッツ州の大手AI企業に4カ月ごとの第三者リスク監査を義務付ける法案を巡り、各社の立場が割れた。Anthropicが法案を支持したのに対し、OpenAIやGoogleは規制の分断や基準の曖昧さを理由に反対の書簡を提出した。
OpenAIが「GPT-6 Astra」発表、PC操作が高速化し越境動作率はゼロへ
OpenAIは最新モデル「GPT-6 Astra」を発表した。ARC-AGI-3で99.9%のスコアを記録し、OSWorldのPC操作タスクを従来比47%高速に処理する。困難なタスクでも権限範囲を超えて暴走する確率は0%に抑えられた。ChatGPT有料プランやAPI向けに順次提供される。
米トランプ政権、NYT対OpenAI訴訟でOpenAI支持 AI学習は「フェアユース」と主張
米トランプ政権はニューヨーク・タイムズがOpenAIを相手取った著作権侵害訴訟で関心表明書を提出し、OpenAI支持の立場を示した。政府弁護士はLLMの学習はフェアユースに当たると主張し、制限を課せば米国の科学的進歩や繁栄を阻害すると指摘している。
GoogleがGemini 3.8 FlashとCyberを発表：エージェントと防衛に特化
GoogleはGemini 3.8 Flashとサイバーセキュリティ特化の3.8 Flash Cyberを発表した。入力100万トークンあたり0.75ドルの低価格を維持しつつ、長期推論やプログラミング能力を大幅に強化。Cyber版は20言語での脆弱性検出率70%超を達成し、Fairwindプログラム経由で提供される。
ニューヨーク市が小中学生のAI利用を一時禁止へ：児童60万人に影響
ニューヨーク市は2026–2027学年度において、幼稚園児から中学2年生（2-K〜8年生）までの公立校児童生徒約60万人を対象に、生成AIの利用を1年間凍結すると発表しました。全学年でコンパニオンチャットボットを禁じ、高校でのみ限定的な試験導入とリテラシー教育を認める方針です。
OpenAIの次期モデル「Astra」、再帰的深度技術の採用で安全性に懸念
OpenAIの次期モデル「Astra」が、同一レイヤーを繰り返し通して計算やコーディング性能を高める「再帰的深度」技術を採用していることが判明した。性能が伸びる一方で思考プロセスの可視化が難しくなり、挙動の監視が困難になるため安全面での懸念が高まっている。
Meta、LEDランプを隠したスマートグラス数千台のカメラ機能を無効化
米Metaは、録画通知用LEDランプが覆われたり破壊されたりしたスマートグラスを検知し、数千台のカメラ機能を遠隔で無効化した。改ざんは全販売数の0.1％未満とされるが、2025年だけで700万台を販売したため影響は数千人に及ぶ。該当端末は事実上Bluetoothイヤホンとしてしか使えなくなる。
Perplexityが「PII-Tracer」公開：0.6Bの軽量モデルで端末内プライバシー保護
Perplexityは多言語・長文対話向けの個人情報検出ベンチマーク「PII-TRACE」と0.6Bのローカル検出モデル「PII-Tracer」を公開した。Mac上でのハイブリッド推論向けに設計され、クラウド送信前に機密情報を検知・匿名化する。複数ターンにまたがる個人情報の検出率で既存モデルを上回った。
Google、Gemini 3.8 Flashを発表：コーディングとセキュリティを強化
GoogleはGemini 3.8 Flashおよび3.8 Flash Cyberを発表した。3.7 Flashと同じ価格と速度を維持しながら、ソフトウェアエンジニアリングや自律型エージェントの推論性能を大幅に向上。Cyber版は脆弱性の自動検知とパッチ適用に特化している。