OpenAIとAnthropicが共同安全性評価を公開：互いの主力AIを相互検証
OpenAIとAnthropicは初の共同安全性評価の結果を公表し、互いの社内テストを用いて相手の主力モデルを検証した。Claude 4はプロンプト抽出耐性に優れる一方、幻覚テストで70%の拒絶率を記録。OpenAI o3は脱獄耐性で優勢を示した。競合同士が互いの盲点を洗い出す透明性の高い試みだ。
Claude Opus 4
Anthropic、Claude Opus 4に悪質ユーザーとの対話を自ら終了する機能を導入
AnthropicはClaude Opus 4および4.1において、ユーザーによる執拗な暴言や有害な要求があった極端な場合にAIが対話を強制終了できる機能を導入した。「AI福祉」の実験的一環で、終了されたスレッドへの再送信は不可となるが、新規チャットの作成や過去ログの分岐編集は可能。
Anthropic、Claudeに週次利用制限を導入へ Claude Codeの常時稼働を抑制
AnthropicはProおよびMaxプランの加入者を対象に、8月28日から週単位の利用制限を導入すると発表した。Claude Codeを24時間稼働させ続けるヘビーユーザーやアカウントの転売を防ぐ狙いだ。既存の5時間ごとの制限は維持され、影響を受けるのは全ユーザーの5%未満だとしている。
Anthropic、金融向け「Claude for Financial Services」提供開始
Anthropicは金融分析向けソリューションを発表した。FactSetやS&P Globalなどの市場データと社内基盤を統合し、分析結果の根拠となった情報源へのハイパーリンク検証に対応。企業のデータはモデルの学習に使用されない。
Anthropicが「Claude 4」発表：長時間コーディングとツール連携を強化
Anthropicは次世代モデル「Claude Opus 4」と「Claude Sonnet 4」を発表した。思考プロセスの途中でツールを使えるようになり、長時間の複雑なプログラミングや自律エージェントの実行精度が向上。開発支援ツール「Claude Code」も一般提供され、Sonnet 4は無料ユーザーにも順次開放される。
Anthropicが脆弱性報奨金を開始：未公開Claudeの脱獄発見に最大2.5万ドル
AnthropicはHackerOneと提携し、未公開の安全分類システムを検証する新たなバグバウンティプログラムを発表した。Claude 3.7 Sonnetなどを対象に、CBRN関連の普遍的ジェイルブレイクを見つけた研究者に最大2.5万ドルを授与し、ASL-3安全基準の達成を目指す。