Anthropic、Claudeへの執拗な虐待を利用ポリシーで禁止

Anthropicが2026年の利用ポリシー改定を公表し、Claudeへの持続的で不必要な虐待や残酷な言動を禁止事項に加えた。新ポリシーは11月12日に発効する。極端なケースに限った規定だという。

セカンドデプロイ
・3分で読めます・AIが下書きし筆者が確認
光る幾何学的な形を柔らかな盾が守る、抽象的なイラスト
AI 生成画像(FLUX.1 [schnell])

この記事のポイント

  1. 01Anthropicが利用ポリシーを改定し、Claudeへの持続的で不必要な虐待を禁止した
  2. 02対象は目的なく繰り返し残酷にふるまう極端な例で、通常の不満や研究は対象外
  3. 03新ポリシーは11月12日に発効し、主な執行手段は会話の終了機能とされる
目次
  1. 禁止されるのは「目的のない執拗な虐待」
  2. すでに導入済みの会話終了機能が主な手段
  3. 影響工作、兵器、監視などの規定も見直し
  4. 高リスク用途と物理機器の要件
  5. 地域ポリシーの運用も明確化

Anthropicが、利用ポリシー(Usage Policy)の2026年版を公式ブログで公表した。AIモデルに対する持続的で不必要な虐待や残酷な言動を、新たに禁止事項へ加えた。新しいポリシーは11月12日に発効する。

同社は、改定の大半は既存ルールの明確化だと説明している。ASCII.jpは、改定の発表日を10月8日としている。

禁止されるのは「目的のない執拗な虐待」

Anthropicによると、追加されたのは「モデルに対する持続的で不必要な、虐待的または残酷な振る舞い」の禁止だ。同社は、この規定が適用されるのは極端なケースだけだと説明している。具体的には、ユーザーが明確な目的もなく、繰り返しモデルに残酷にふるまう場合を想定しているという。

一方、次のような行為は対象にならないとしている。

  • 一般的なユーザーの不満や反論
  • 暗いテーマを扱う創作
  • モデルのテストや研究

ASCII.jpも、同社の改定について同様の内容を報じている。

すでに導入済みの会話終了機能が主な手段

同社はこの追加について、すでに講じた措置と整合するものだと説明している。Claude.aiとClaude Codeでは、持続的に虐待的なユーザーとのまれな会話を、Claudeのモデル自身が終了できるようにしている。

同社は、こうした虐待が今回の改定の主な焦点であり、Claudeが会話を終了できる機能が引き続き主な執行手段になるとしている。ASCII.jpは、今回の改定を既存の運用の明文化と報じた。

なぜこの規定を入れたのかについて、同社は公式ブログで、この点以上の理由を詳しく述べていない。

影響工作、兵器、監視などの規定も見直し

今回の改定は虐待の禁止だけではない。Anthropicによると、この1年でClaudeがより長く、より自律的な作業を担うようになったことを受け、新しい事例を示して既存ルールの適用を説明したという。影響工作、兵器開発、監視における新たな悪用パターンも反映した。

偽アカウントや偽ニュースサイトによる工作は、これまで選挙、詐欺、プライバシー、偽情報の各項目に分散していた。同社はこれらを「Do Not Engage in Deceptive Campaigns or Artificial Activity」という新しい節にまとめた。政治目的か商業目的かを問わず、発信元を隠す行為や偽アカウントでの拡散、そのための道具や基盤づくりを対象にする。

選挙の節は「Do Not Undermine Democratic Processes」に改称した。有権者をだます行為や選挙の妨害に焦点を絞り、個人に合わせた投票・選挙運動のターゲティングの全面禁止は削除したという。同社は、この禁止が非営利団体による多言語の有権者向け情報作成なども覆っていたと説明している。

兵器では、誘導・制御ソフトウェアや部品、ドローンなど自律的な乗り物への武装も禁止に含まれると明記した。監視では、本人の同意のない追跡や、捜査・逮捕・起訴の対象を決めたり勧めたりする用途を禁じている。同社は、兵器と監視の変更は実際の運用の変更ではなく、表現を明確にしたものだと述べている。

高リスク用途と物理機器の要件

健康、法的権利、金融、生計、重要なサービスへのアクセスに影響しうる用途では、これまで通り、推奨内容を確認・変更できる資格のある人間の関与と、AIを使ったことの本人への通知が必要だ。この要件に変更はなく、対象となる推奨の種類を整理した。

新たに、負傷を引き起こしうる物理機器へ接続する場合の要件も加わった。資格のある運用者が機器を監視して止められること、Claudeとの接続が切れても機器が安全な状態を保てることが求められる。

地域ポリシーの運用も明確化

同社はあわせて、対象外地域に関する Supported Regions Policy の運用説明も更新した。対象外地域にいる人、そこで設立または本社を置く事業体、そうした主体が過半を所有・支配する事業体による利用を禁じている。この方針は昨年の更新で、対象外地域に本社を置く主体が過半を所有する企業へのアクセスを制限したものだ。

日本での扱いや、違反時の具体的な措置の詳細は、今回の資料では明らかにされていない。

SOURCES 出典

本記事は AI を活用して作成し、筆者が確認のうえ公開しています。詳しくはAI 利用ポリシーをご覧ください。