AINEWS Search
Topics and information types

AI 安全与评测 实施规则

Back IT之家 科技新闻
IT之家 科技新闻· · Original publication time

Anthropic revises Claude use policy to prohibit persistent abuse of the modelMachine translation

Automatically verified and published · Generated and evidence-checked automatically; not reviewed by a human.

AI-assisted summary

The revised policy takes effect on November 12, 2026. It prohibits repeated, apparently purposeless cruelty toward Claude; Anthropic says its main response will be to end the conversation, while ordinary complaints, model testing and research are exempt. The policy also expands weapons restrictions and prohibits tracking people without consent.

Article · Original

The article text is unavailable in this language; an existing version is shown.

IT之家 10 月 9 日消息,科技媒体 The Verge 今天(10 月 9 日)发布博文,报道称 Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。

执行机制方面,Anthropic 表示主要方式为终止对话,但并未明确时候会引入用户封禁等进一步措施,并强调该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究。IT之家附上相关截图如下:

Anthropic 扩大武器禁令范围,涵盖使武器运转的软件与组件,以及武装无人机和其他自主车辆等行为。公司称已发现多起利用 Claude 开发武器指导或控制软件的尝试。

监控条款明确禁止未经同意追踪个人,无论实时追踪还是分析既有数据。Claude 不得用于决定或建议执法与刑事司法程序中的调查、逮捕或起诉对象,也不得用于构建或改进监控工具。

Anthropic 还规定,当 AI 连接至可能造成伤害的自主物理硬件时,必须由合格操作者观察设备并在必要时停止。对于特定政府客户,公司可在合同限制与安全措施充分时调整规则。

Found an error? Send a correction