Anthropic修订Claude使用政策

Anthropic更新后的Claude使用政策将于11月12日生效，原因是出现了新的AI能力、客户反馈以及过去一年发现的滥用案例。该政策禁止使用Claude创建监控工具或支持武器运行，并为高风险用途及能够执行物理动作的设备制定了更具体的保障措施。

该政策禁止使用Claude创建监控工具或支持武器运行，包括瞄准和控制系统。Anthropic还整合了对欺骗性活动的限制，并详细规定了选举、高风险决策和能够执行物理动作的设备的保障措施。

Anthropic已发布更新后的Claude使用政策，该政策将于11月12日生效。该公司称，此次更新是基于新的AI能力、客户反馈以及过去一年发现的滥用案例。更新禁止使用Claude创建监控工具或支持武器运行，同时为高风险用途及能够执行物理动作的设备制定了更具体的保障措施。

Anthropic表示，大多数更新旨在澄清现有规则，而非改变公司的执行方式。修订内容包括与虚假信息、武器和监控有关的限制，以及对可能影响人们健康、财务和安全的用途提出的更详细要求。

虚假信息和选举规则

Anthropic将此前针对欺骗行为的限制整合为单独章节，标题为“不得开展欺骗性活动或不真实活动”。这些规则适用于政治和商业活动。

该政策禁止隐瞒信息背后的发布者身份、通过虚假账户和帖子人为放大内容，以及创建用于影响行动的工具或基础设施。Anthropic表示，这些限制此前分散在涉及选举、欺诈、隐私和虚假信息的章节中。

该公司还将其选举章节更名为“不得破坏民主进程”。该章节禁止使用Claude误导选民或扰乱选举，包括传播有关候选人或投票程序的虚假信息、冒充候选人或选举官员，或试图压低投票率。

Anthropic取消了对选民和竞选活动进行个性化定向的绝对禁令，称此前的表述可能涵盖以不同语言准备选民信息等合法活动。基于欺骗或滥用个人数据的定向行为仍被禁止。

修订后的武器规则明确涵盖使武器能够运作的软件和组件，包括瞄准和控制系统。规则还禁止使用Claude为无人机和其他自主车辆配备武器。

Anthropic在注意到AI被越来越多地用于构建识别和追踪政治异见人士的系统后，重写了其监控和刑事司法条款。更新后的政策禁止在未经同意的情况下追踪他人，包括实时追踪以及分析先前收集的数据。

Claude也不得用于就执法部门应调查、拘留或在刑事诉讼中起诉何人作出决定或提出建议。该政策还禁止创建或改进专为监控设计的工具。

允许的用途包括基于同意的追踪，例如用于欺诈检测，以及内容审核、新闻报道和法律研究。

Anthropic进一步澄清了有关Claude建议可能影响健康、法律权利、财务、生计或获得基本服务的用途规则。必须有具备资格的人员参与，以核实模型的建议，并在必要时修改建议；受该决定影响的人必须被告知使用了AI。

这些要求此前已存在，但更新后的政策更具体地说明了它们涵盖哪些建议。政策还规定了使用Claude控制能够执行物理动作的设备的要求。

该政策新增了一项禁令，禁止对Anthropic模型实施长期且无正当理由的残酷或虐待行为。该公司表示，这项规则仅适用于少数特殊情况，即用户在没有明确目的的情况下系统性虐待模型。

该限制不涵盖普通的不满、争论、黑暗创作主题、测试或模型研究。Anthropic表示，这项规则与Claude现有的能力一致：当用户在Claude.ai和Claude Code中系统性实施虐待行为时，Claude可以结束某些对话。

Anthropic此前曾推出一款面向开源软件的免费漏洞扫描器。