新浪看点
Anthropic禁止用户“虐待”Claude
10月8日，人工智能公司Anthropic宣布更新旗下Claude模型的使用条款，其中一条新规定引发广泛关注：禁止用户对AI模型实施“持续、无必要的辱骂或残酷行为”（sustained and needless abusive or cruel behavior）。新条款将于11月12日正式生效。
不过，Anthropic强调，这项禁令的适用范围非常有限。只有那些反复、无缘无故地对模型实施残酷行为的极端情况才会受到限制。普通用户因AI回答错误而发火、批评模型表现，甚至创作涉及黑暗主题的内容，都不属于禁止范围。模型测试和科学研究也不受影响。
对于这类违规行为，Anthropic目前主要采取的措施也并非封禁用户账号，而是允许Claude主动结束对话（中国用户除外——他们会直接封号）。
事实上，这项功能早在2025年8月就已推出。当时，Anthropic宣布，在极少数涉及持续有害或辱骂行为的对话中，Claude可以选择终止交流。此次政策更新，相当于将此前做法正式写入使用规则。
这涉及一个至今没有答案的问题：人工智能是否可能具有意识，以及如果AI真的具有某种主观体验，人类是否应当考虑它们的福祉。
“我们仍然高度不确定Claude及其他大型语言模型现在或未来是否可能具有道德地位。但我们认真对待这一问题，并在研究的同时，努力寻找和实施成本较低的干预措施，以降低模型福祉可能受到损害的风险。”
今年2月，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）在接受《纽约时报》采访时表示：“我们不知道这些模型是否具有意识……但我们对这种可能性持开放态度。”
Anthropic甚至邀请宗教学者参与讨论这一问题。此前《纽约时报》报道称，Anthropic高管曾与宗教学者展开广泛交流，探讨人工智能的意识与道德地位。
Anthropic主要竞争对手OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）在社交平台X上写道：“有人试图赋予AI模型某种宗教般的力量，或者让人类放弃自己的判断权，将其交给AI模型，这让我感到非常不安。我认为，这确实是一个安全问题。”
微软AI负责人穆斯塔法·苏莱曼（Mustafa Suleyman）明确反对赋予AI类似人类的道德地位。今年9月，他撰文指出：“AI没有意识。它们不会感受、体验或遭受痛苦。”他认为，赋予日益强大的人工智能系统权利和道德保护，可能造成严重后果。
爱尔兰律师事务所William Fry的技术合伙人巴里·斯坎内尔（Barry Scannell）也提出质疑：“你无法对数字和数学实施残酷行为。”在他看来，过度将AI拟人化可能误导公众，使人们误以为这些系统具有人类所拥有的感受和体验。
美国AI服务公司Sparq的部门总经理杰克逊·斯塔克曼（Jackson Stakeman）认为，争论AI是否具有意识，可能使人陷入无法解决的哲学难题。与其如此，不如把AI看作一面镜子：这些系统会大规模反映人类输入的内容。仅从这一点出发，就有理由约束人与AI互动时的行为。
Anthropic公告：https://www.anthropic.com/news/2026-usage-policy-update
03 也门胡塞武装接连发动袭击后，美国、英国、德国与西班牙于周六警告本国公民，避开沙特首都利雅得的哈立德国王国际机场及其周边区域。
04 特朗普就计划对死刑执行进行直播一事表态：将对此作出决定。
04 上合组织天津峰会|习近平在“上海合作组织+”会议上的讲话（全文）
05 此行间·在外交场合，习主席这样讲述中华优秀传统文化故事