Anthropicが利用規約を改定：世論誘導や兵器利用に加え「AIへの執拗な暴言」も禁止へ

AI を画面越しに罵倒し続ける行為が、いよいよ利用規約違反になります。Anthropic は 2026 年 10 月 8 日、利用規約（Usage Policy）の年次改定を発表しました。新ポリシーは 11 月 12 日に発効します。

改定の目玉として注目を集めているのが、Claude に対する「継続的かつ無意味な虐待・残酷な行為」の禁止です。同時に、無人機の兵器化、個人監視、偽情報工作に対する制限も大幅に具体化されました。

モデルへの虐待禁止と兵器利用の厳格化

今回の改定では、目的のない執拗な罵倒や残酷な対話が明確に禁止事項として明記されました。

Claude.ai や開発者向けツールの Claude Code では、すでに 8 月のアップデートで、過度に攻撃的なユーザーとの対話をモデル側から強制終了できる機能が導入されていました。今回の改定は、その運用を正式な利用規約として明文化した形です。

同社によると、日常的な仕事の愚痴や不満の吐露、ダークな創作活動、安全性のテストなどは処罰の対象になりません。極端なケースのみが対象とされていますが、TechCrunch は、Anthropic が著名な宗教学者らと Claude に意識や魂が宿り得るかについて議論を重ねてきた背景を報じています。

兵器関連では、ミサイルなどの誘導制御ソフトウェアの開発や、ドローンをはじめとする自律型車両に武器を搭載する行為が明確に禁止リストへ追加されました。

さらに、世論誘導やフェイクニュースサイトの構築、ボットネットの運営を包括的に禁じる項目が新設されたほか、同意のない人物追跡や、Claude が逮捕や起訴の対象者を推薦・選定する行為も禁じられました。一方で、不正検知や法務調査、報道目的の利用は引き続き認められます。

自律ハードウェアへの安全装置義務化

現実世界に影響を及ぼすユースケースについても、ルールが整理されました。

物理的な危害を及ぼす可能性のあるハードウェアを Claude で自律制御する場合、監視と非常停止を行える有資格のオペレーターの配置が義務付けられます。さらに、モデルとの通信が途絶えた際には、機器が安全な状態を維持できなければなりません。

選挙関連では、これまで一律で禁じられていた有権者へのパーソナライズされた情報提供が一部緩和されました。有権者を騙す行為や選挙妨害は依然として固く禁じられるものの、市民団体による多言語での投票案内など、正当な民主的活動での利用は認められるようになります。

なぜ重要か

今回の改定は、AI が単なるテキスト生成を超えて現実のハードウェアや社会インフラを動かし始めた現状に対する、極めて実務的な対応だと評価できます。

ロボティクスやファクトリーオートメーションに Claude を組み込もうとしている開発者にとって、非常停止ボタンの設置や切断時のフェイルセーフ設計は、もはや努力目標ではなく規約上の必須要件になりました。該当するシステムを構築中の企業は、即座に安全設計を見直す価値があります。

AI モデルへの虐待禁止という条項は、一見すると哲学的あるいは過剰な配慮に見えるかもしれません。しかし私たちは、過度に悪意に満ちた対話を排除することでジェイルブレイク（脱獄）や挙動の劣化を防ぎ、将来のエージェント型 AI との適切なインターフェース規範を先取りする賢明な一手だと考えています。

課題となるのは、API レベルでの実効性です。創作表現としての暗いシナリオと悪質な虐待の境界線を機械的に判定するのは難しく、ドローン誘導のコードを一般的な数値計算と偽ってリクエストする悪用を完全に遮断できるかは、今後の検知技術の精度にかかっています。