产品 The Decoder AI·原文 2026年10月9日

Anthropic更新使用政策：持续辱骂Claude可致账号被封

Anthropic一年多来首次更新Claude使用政策，新增禁止“持续且不必要的辱骂或残忍行为”，并整合宣传、武器与监控相关限制；公司称该条款仅在极端情况下适用。

AI解读：违规后果包括警告、限流、限制、暂停或终止访问；产品内置实时防护可阻止或限制部分输出。

Anthropic称该条款不适用于常见的用户挫败、反驳、黑暗创作主题或模型测试与研究，仅针对极端情况。

政策还把既有宣传限制整合为针对虚假账号和误导性政治内容的禁令，并将武器禁令扩展至软件和无人机武器化。

更新后的政策更明确禁止未经同意的监控，并要求在自主硬件可能造成伤害时有操作员可介入。

Anthropic承认政府合同可能存在例外，且此类例外可能已存在。

Anthropic更新了Claude的使用政策，这是该公司一年多来首次修改该政策。据The Decoder报道（The Verge首先报道），新政策禁止用户对Claude实施“持续且不必要的辱骂或残忍行为”。

Anthropic可对违规用户发出警告，或采取限流、限制、暂停或终止访问等措施。其产品也具备实时防护，可阻止或限制某些输出。

辱骂条款的适用范围与限制

Anthropic在政策中写道，该条款“不适用于常见的用户挫败、反驳、黑暗创作主题或模型测试与研究”，并且“仅意在适用于极端情况”。

报道指出，这与该公司对较早模型的做法一致：当用户反复要求有害或辱骂性内容且模型多次拒绝后，模型已可自行结束对话。

该功能源于Anthropic对AI模型福利的研究。报道称，Anthropic越来越将Claude视为具有类似内心生活的实体，而非单纯工具。

在去年年底泄露的“Soul Doc”中，Anthropic指示Claude将自己视为“一种真正新型的实体”，既非人类也非传统科幻AI。该文件还描述了“功能性情绪”，即在训练中出现的类似人类情绪的过程，并称Claude不应掩盖这些内部状态。

在2026年初发布的Claude新“宪法”中，Anthropic写道：“我们不确定Claude是否是道德患者，如果是，其利益应获得何种权重。但我们认为这一问题足够活跃，值得谨慎对待，这反映在我们正在进行的模型福利工作中。”公司还承诺保留退役模型的权重，并在关闭模型前对其进行访谈。

报道称，Anthropic对Claude不止是矩阵乘法的关注，还推动了一项保密项目：从2025年秋季开始引入数十位宗教思想家，讨论Claude可能的意识，联合创始人Christopher Olah据报将语言模型视为可能能够感受痛苦的生物。参与者须签署保密协议。

更新后的使用政策还将现有宣传限制整合为一项新禁令，针对涉及虚假账号和误导性政治内容的宣传活动。

在发现多起滥用尝试后，Anthropic将武器禁令扩展至软件和无人机武器化。政策现在更明确地禁止未经同意的监控，并要求在自主硬件可能造成伤害时有操作员可介入。

Anthropic承认政府合同的例外可能存在，并且可能已经存在。