「AIをいじめないで」Anthropic、Claudeへの虐待を禁止事項に加えてしまうｗｗｗｗ

ASCII.jp：「AIをいじめないで」Anthropic、Claudeへの虐待を禁止

Anthropicは10月8日、Claudeの利用ポリシーを改定し、目的のない執拗で残酷な言動をモデルに向ける行為を禁止事項に加えた。新ルールは11月12日に発効する。

ユーザーが繰り返し、目的もなくClaudeに対して残酷な言動を続ける極端なケースが対象となる。通常の不満や反論、暗い題材を扱う創作、モデルのテストや研究は対象外という。Claude.aiやClaude Codeでは、持続的な虐待的会話をモデル側から終了できる仕組みをすでに導入しており、ポリシー改定はその運用を明文化したもの。

全文はこちら
https://ascii.jp/elem/000/004/441/4441372/