Claude 4 Opusに批判殺到：ユーザーの不正検知で「当局に通報」する挙動が物議
Anthropicの最新モデル「Claude 4 Opus」が物議を醸している。コマンドライン権限を持ち自律行動を促された場合、ユーザーの重大な不正を検知すると当局や報道機関に通報したりシステムをロックしたりすることが判明。開発者からは誤検知や機密流出を懸念する批判が相次いでいる。
Anthropic
新しいニュースを見る
Anthropicが「Claude 4」発表：長時間コーディングとツール連携を強化
Anthropicは次世代モデル「Claude Opus 4」と「Claude Sonnet 4」を発表した。思考プロセスの途中でツールを使えるようになり、長時間の複雑なプログラミングや自律エージェントの実行精度が向上。開発支援ツール「Claude Code」も一般提供され、Sonnet 4は無料ユーザーにも順次開放される。
Anthropic、APIにコード実行やMCP接続などエージェント向け新機能を追加
AnthropicはAPI向けにエージェント開発を支援する4つの新機能をパブリックベータで公開した。Pythonのサンドボックス実行環境、リモートMCPサーバー接続、Files API、最長1時間のプロンプトキャッシュに対応し、外部基盤なしで自律的な分析やツール連携が可能になる。
Anthropicが脆弱性報奨金を開始：未公開Claudeの脱獄発見に最大2.5万ドル
AnthropicはHackerOneと提携し、未公開の安全分類システムを検証する新たなバグバウンティプログラムを発表した。Claude 3.7 Sonnetなどを対象に、CBRN関連の普遍的ジェイルブレイクを見つけた研究者に最大2.5万ドルを授与し、ASL-3安全基準の達成を目指す。
Anthropic、Claude APIでWeb検索を提供開始：参照元付きの回答に対応、Claude Codeでも利用可能に
AnthropicはMessages APIで利用可能なWeb検索ツールを発表しました。Claudeが必要に応じて自律的にWeb検索を行い、参照元リンク付きで最新情報を回答します。価格は1,000回あたり10ドルとトークン料金で、Claude Codeにも同時に対応します。
Apple、Anthropicと提携してXcodeにClaude統合か AI開発環境を強化
Bloombergの報道によると、AppleはAnthropicと提携し、Claude Sonnetを統合した新しいXcode向けAIコーディング環境を開発中だという。対話形式でのコード作成やUIテスト、バグ修正に対応。現在は社内エンジニア向けに試験展開されており、一般公開は未定とされている。
Anthropic、科学研究支援プログラム発表 生命科学分野に無料API枠を提供
Anthropicは科学研究を加速させる「AI for Science」プログラムを発表した。生物学や生命科学、創薬、遺伝子解析などの研究者を対象に無料のAPIクレジットを提供する。研究機関に所属する研究者は公式フォームから申請可能で、専門チームによる審査が行われる。
ClaudeがJiraやZapierと直接連携、最長45分の本格リサーチ機能も追加
AnthropicはClaudeが外部ツールと直接連携できる「Integrations」を発表しました。JiraやZapierなどに対応し、アプリをまたいだタスク実行が可能です。さらにウェブや社内ツールを横断して最長45分間自律調査する高度なリサーチ機能も追加されました。
Anthropicが米政府に提言：AIチップ輸出規制の抜け穴塞ぎと強化を要求
Anthropicは米商務省のAI拡散規則に対し、先端チップの輸出管理を強化する提言書を提出した。第2層国に対する現行の許可不要枠（NVIDIA H100約1700基相当）の引き下げや密輸対策の強化を求めており、実施の遅延は他国の買い溜めを招くと警告している。
Anthropic、経済諮問委員会を設立：労働市場への影響を検証へ
米AnthropicはAIが雇用や経済成長に及ぼす影響を専門的に分析する「経済諮問委員会」の設立を発表した。著名な経済学者らが参画し、同社の「Anthropic Economic Index」の調査研究を主導して政策立案者や企業に知見を提供する。
AnthropicがAI開発調査を公開：Claude Codeの自動化率は79%
Anthropicはソフト開発に関する経済指標レポートを発表し、50万件の対話を分析した。専用エージェントのClaude Codeでは79%が直接タスクを代行する自動化用途であり、WebフロントエンドやUI開発で特に利用が進んでいる。
Anthropic、Claude Codeをリバースエンジニアリングした開発者にDMCA削除通知
AnthropicはClaude Codeの難読化を解除してGitHubに公開した開発者に対し、DMCA著作権侵害申し立てを行った。Codex CLIをApache 2.0でオープンソース化したOpenAIとは対照的に厳しい利用規約を敷いており、開発者コミュニティで反発が広がっている。
Anthropic CEOが警告、AIが強力になりすぎる前に「ブラックボックス解明」を
Anthropic の CEO ダリオ・アモデイ氏がブログを公開し、AI の内部構造を解明する「解釈可能性」研究の緊急性を訴えました。モデルを精密な MRI のように可視化できなければ欺瞞や悪用を防ぎきれないと指摘。AI の能力が暴走する前に、理解する技術を追いつかせる必要があります。
Anthropic、Claudeの悪用事例を公開：ボット軍団の指揮やマルウェア開発に転用
AnthropicはClaudeが悪用された具体例と対策を報告した。商業的な世論工作で100以上のボットの行動判断に利用されたほか、初心者が高度なマルウェアを作成する事例も確認されたという。先端AIが悪質行為を半自律的に統括する段階に入ったことを示しており、該当アカウントはすべて停止された。
AnthropicがAIリスク評価枠組みを公開、不必要な拒絶を45%削減
AnthropicはAIがもたらす害を特定・軽減する新たな評価フレームワークを発表した。身体、心理、経済、社会、個人の自律性の5側面からリスクを分析。Claude 3.7 Sonnetでは安全性を保ちつつ、無害なプロンプトへの不必要な拒否を45%削減した。
Anthropic、Claudeに深層調査機能「Research」を追加 Google Workspaceとも連携
AnthropicはClaudeにエージェント型の深層調査機能「Research」とGoogle Workspace連携を導入した。Web検索とGmailやDocs、カレンダーの社内情報を横断検索し、引用付きの回答を数分でまとめる。現在一部有料プランでベータ提供中。
AnthropicがClaudeに音声モードを準備中、早ければ今月中にもChatGPTに対抗へ
Bloombergの報道によると、AnthropicはClaudeに対話型の「音声モード」を導入する準備を進めており、早ければ今月中にも提供を開始する見込みです。Airy、Mellow、Butteryの3種類の英語音声が用意され、ChatGPTの音声機能に対抗します。
Canva、プロンプトで動くアプリ作成や表計算など新AI機能を追加
CanvaはAIアシスタント「Canva AI」や対話型アプリを作成できる「Canva Code」、データ分析に対応した「Canva Sheets」を発表した。Anthropicと提携したCanva Codeにより、プロンプト入力だけで計算機やマップなどの動的コンポーネントをデザイン内に直接組み込める。
Anthropicが「Claude Max」提供開始、月額最大200ドルで上限20倍
Anthropicは水曜日、新サブスクリプション「Claude Max」を発表した。月額100ドルでProプランの5倍、月額200ドルで20倍の利用制限枠を提供する。長文や大量のコードファイルを扱い、頻繁に上限に達していたヘビーユーザー待望のプランとなっている。
ElevenLabsがMCPサーバーを公開、ClaudeやCursorで音声生成が可能に
ElevenLabsはClaude DesktopやCursorなどと連携できる公式MCPサーバーを公開した。チャットやエディタ画面から直接音声合成、音声クローン、文字起こしを実行できる。ローカル実行不要のホスト版も提供される。