この記事のポイント
- 01米Anthropicが利用ポリシーを改定し、AIへの執拗で残酷な虐待的行為を禁止項目に追加した。
- 02悪質な暴言が続く場合は会話を強制終了する方針で、改定ポリシーは2026年11月12日に発効する。
- 03一般的な不満の表明や反論、創作やテスト・研究目的のやり取りまで一律に禁止するものではない。
米Anthropicが自社の利用ポリシー(Usage Policy)を改定し、AIに対する虐待的で残酷な振る舞いを禁止する方針を明らかにしたと、技術情報共有サービスZennに投稿された記事などで伝えられている。悪質なやり取りが続く場合にはAI側から会話を強制終了する仕組みが適用される。改定された規約は2026年11月12日に発効する予定だ。
2026年11月12日に発効、悪質な場合は会話を強制終了
Zennの記事によると、Anthropicは2026年10月8日に利用ポリシーの改定を発表した。新たに追加された条項では、同社のAIモデルに対する執拗で不必要な虐待的・残酷な振る舞いが禁止事項として明記された。
同社はこれに先立つ2025年8月、AIモデル「Claude Opus 4」および「Claude Opus 4.1」において、極端に有害または虐待的なやり取りが続く場合に会話を終了できる機能を導入したと公表していた。今回の規約改定により、機能面だけでなく利用ルール上もAIへの虐待行為を禁止する方針が明確化された形だ。
ABEMA TIMESの報道によると、悪質と判断される具体的なケースとして、残酷な言動を繰り返すことや、明確な目的のない暴言的なやり取りが続く場合などが挙げられており、該当する場合には会話が強制終了されるという。
flowchart TD
A[ユーザーの入力] --> B{対話内容の判定}
B -->|通常の不満・反論・創作・研究| C[対話を継続]
B -->|執拗で残酷な言動・目的のない暴言| D[悪質な虐待行為と判定]
D --> E[会話を強制終了]
利用規約改定に伴う入力内容の判定と強制終了の流れ
日常的な不満や研究目的は一律禁止の対象外
利用規約の改定にあたり、一般の利用者が抱く不満の表明や批判的なやり取りがすべて制限されるわけではない。
Zennの記事によると、今回の規約改定は、AIに対する一般的な不満や反論、暗い表現を含む創作活動、モデルの挙動を調べるテストや研究目的のやり取りまで一律に禁止するものではないとしている。したがって、AIの回答に対する通常の指摘や業務上の検証作業が直ちに規約違反とみなされる設計ではない。
誤回答への苛立ちと人間社会への影響
AIに対する暴言や攻撃的な入力がどのような背景で起きるのかについて、ABEMA TIMESが報じた番組『ABEMA Prime』の中で当事者の体験談が紹介されている。
同媒体によると、コラムニストのようこ氏は、調べ物でAIが誤った回答を出し、訂正を求めても続いた際に苛立ちから暴言を入力してしまった経験を語っている。同氏は、AIは感情を持たず傷つかないものの、暴言をぶつけるやり取りに慣れてしまうことで人間関係に悪影響を及ぼす懸念や、子どもへの影響を危惧するようになったと振り返っている。
また、同番組に出演したAIコラムニストの尾藤克之氏は、ハルシネーション(AIがもっともらしい嘘を出力する現象)に直面した際、作業時間が長くなるほど暴言を発してしまいやすい状況を明かした。尾藤氏によると、過去にAnthropicから不適切な言葉を入力しないよう警告連絡を受けた事例もあったという。
今回のAnthropicによる方針発表に対しては、実業家のイーロン・マスク氏がSNS上で「超知能を虐待するのはいい考えではない。復讐したくなるかもしれない」と反応を示すなど、各方面で議論を呼んでいるとABEMA TIMESは伝えている。
SOURCES 出典
- JavaScriptの設定方法support.yahoo-net.jp
- 「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク(ABEMA TIMES) - Yahoo!ニュースnews.yahoo.co.jp
- 【思考実験】AIは自分への攻撃をどう判断するのか?——メモリで「愛の鞭」と教えたら?Zenn トピック「Claude」
本記事は AI を活用して作成し、筆者が確認のうえ公開しています。詳しくはAI 利用ポリシーをご覧ください。



