Anthropicが「Claudeに対する持続的かつ不必要な虐待・残酷な行為禁止」などを利用規約に追加

Usage Policy \ Anthropic
https://www.anthropic.com/legal/aup

Anthropicの利用規約には「法律に違反する行為や犯罪行為をしてはならない」をはじめとした禁止事項が列挙されていて、暴力や危害を及ぼすような行為も禁止されています。たとえば、Claudeを用いて自殺や自傷行為、摂食障害の助長、促進、美化するようなコンテンツを生成することはNGです。

新たに加わったのは、Claudeを対象として持続的かつ不必要な虐待的または残酷な行為を行うことの禁止です。

Anthropicによると、この項目が意図するのは、ユーザーが明確な意図なく繰り返しClaudeに対して残酷な行為を行うような極端な事例の禁止であり、一般的なユーザーによる不満や反発の表明や、ダークな創作、モデルのテストや研究は適用外だとのこと。

Claude.aiおよびClaude CodeではClaudeが執拗に虐待的行為を受けることが稀にあり、Anthropicは会話を終了させる措置を執っていて、今回のアップデートは対応方針に合わせた内容となっています。

なおアップデートではこの他、選挙や詐欺など複数の項目に分散して記載されていた欺瞞行為が「欺瞞的キャンペーンや人工的な活動への利用禁止」という大項目にまとめられたほか、政治的コンテンツへの制限を明確化。また、すでに禁止している武器開発への利用について、ドローンやその他の自動運転車両の武装化などが加わり、監視システムへの利用についても禁止事項が明確化されました。