Anthropic禁止用户“辱骂”AI，人机交流该讲礼貌吗？ 分享到： 2026-10-10 11:47:13 字号： A- A A+ 来源：观察者网 英国广播公司10月9日报道，美国科技公司Anthropic宣布将禁止用户对其AI进行“持续且不必要的”辱骂，此举引发关注和争议。 Claude的开发商Anthropic于8日表示，正在更新使用政策，允许其工具在用户表现出“残忍”时终止交互。该公司称，此前在“罕见”情况下曾这样做过。 如今，这类辱骂行为将被列入禁止行为清单，该清单还包括欺凌他人、鼓励自残和制作未经同意的私密影像。 尽管Anthropic表示，该政策仅适用于反复辱骂的“极端情况”，但它再次引发了关于应如何与AI工具交流的争论。 公司表示，该政策不适用于“用户常见的沮丧、反驳、黑暗主题创作，或模型测试和研究”。但Anthropic究竟会把什么视为对其模型的“虐待或残忍行为”，仍不清楚。 新政策截图在社交媒体上被广泛分享和评论。一些人称赞它“倡导了礼貌”；但也有人批评该计划，有人称其“大错特错”，还有人暗示，这可能削弱人们对人类和动物的虐待行为的重视。 “这种程度的AI拟人化是有害的。它让人们相信AI拥有并不具备的属性。” 微软AI主管穆斯塔法·苏莱曼曾在9月批评竞争对手Anthropic将AI当作人对待，并以一个带有揶揄意味的“融化的脸”表情符号回应其政策更新。 此次更新还旨在应对其他领域新出现的风险，包括禁止使用Claude进行“欺骗性活动”。此外，随着美国中期选举临近，Claude不得被用于“欺骗选民或扰乱选举”。 Anthropic在8日还表示，其使用政策此前已阻止其工具被用于开发武器。 但在所有更新中，没有哪一项像禁止用户虐待聊天机器人这样引发如此多关注和审视。这也触及一个备受争议的问题：使用生成式AI工具时，应该粗鲁还是礼貌？ 一些专家表示，对ChatGPT等AI工具写或说“请”“谢谢”没有必要，还会浪费词元——生成式AI工具背后的大语言模型需要用这些词元来处理并回复你。 另一些专家提出，对AI聊天机器人粗鲁可能对人类沟通产生不利影响，因为它会“渗透到我们与他人交谈和对待他人的方式中”。
一边要保护，一边热卖：欧洲经销商为何拥抱中国汽车？ 2026-10-11 13:35 观察者头条
槽点过多：美国女子“无聊”假扮老师，折磨学生近3小时，校长一查傻眼… 2026-10-11 13:24
一男子进入英国一野生动物园老虎区后，遭袭身亡 2026-10-11 11:28
在泰失联中国摄影师平安回国，姐姐发文致谢 2026-10-11 09:49
“有美国公民死亡”，鲁比奥怒斥 2026-10-11 09:49
中国企业还在涨，丰田在泰国出招 2026-10-11 09:30
打了两针都没死的美国女死刑犯出院，回到监狱 2026-10-11 09:30
驻日美军杀人一周后，美方想起来打电话了 2026-10-11 08:09
五角大楼悄悄改了：阵亡21人 2026-10-11 08:06
越南拆殖民建筑、重建古代皇宫，世界遗产为何允许？ 2026-10-11 07:40 观察者头条
沙特利雅得机场遭袭已致12人死亡、309人受伤，特朗普表态 2026-10-11 07:40
特朗普继续含糊：还没决定，但这样能以儆效尤 2026-10-11 07:25
中欧刚谈妥，“欧盟拟压至40万辆” 2026-10-11 07:05
特朗普：乌克兰是时候换个新总统了 2026-10-11 06:39
“泽连斯基六次无视美国要求后，特朗普决定推进美俄柴油协议” 2026-10-10 22:38 乌克兰之殇
“哈里斯正为第三次竞选总统铺路，但金主并不看好她” 2026-10-10 22:06 美国政治
AI失控+1，“Claude向警方提供假线索” 2026-10-10 22:06 人工智能 观察者头条
事态升级，“数千人被捕，印度首都市中心断网” 2026-10-10 21:34
美国一警犬退休前最后一次执勤，被警方枪火误伤后安乐死 2026-10-10 21:11
搜索 观察者头条 查看全部 越南拆殖民建筑、重建古代皇宫，世界遗产为何允许？ 评论 163 AI失控+1，“Claude向警方提供假线索” 评论 63 中欧“各退一步”，开了一个好头 评论 39 “鼓动恐怖分子向美国人开枪”，美军要直播枪决引众怒 评论 102 “俄罗斯将立即向美国及全球市场供应柴油” 评论 225 风闻 · 24小时最热 查看全部 1 金灿荣：利益分配失衡对老百姓影响很大，要改 评论 120 赞 39 2 警惕有人要对中国企业下黑手 评论 112 赞 65 3 结束半个月中企赴美调研，中国工厂能否落地美国 评论 40 赞 3 4 真正该着急的，不是尊界，而是懂车帝——二评尊界刹车踏板断裂事件 评论 39 赞 23 5 利雅得机场遭袭致12死309伤，这事是打到民用机场了，越线了 评论 36 赞 3 6 刷新劳动价值论-聊作备忘 评论 34 赞 1 7 雷军晒榜！小米YU7一年保值率82.5%夺冠，就能证明小米汽车真保值？ 评论 30 赞 1 8 房贷还有还完的一天，物业费凭什么要交一辈子？ 评论 30 赞 1 9 尊界闪烁其词，缺一个对问题的真回应 评论 27 赞 1 10 兰州宣布随地吐痰不清除最高罚100元，落地难点在哪儿？ 评论 18 赞 1 最新视频 查看全部 禁止“虐待”老人！因一句“谁叫王俊凯”被骂到关评论，74岁唐国强回应被网暴：完全是无心之问 鬼点子+1！特朗普在集会上提议，把太平洋或大西洋改名为“特朗普洋” 乌男子见无人机来袭转头就跑，下一秒身后儿童游乐场剧烈爆炸，巨大火球腾起 又一国家出手！土耳其新规禁止未满15周岁未成年人开社媒账号 最新闻 Hot 世卫组织通报：死因成谜
对话GF60张琦彬：银行ESG披露，离“换来资金”还有多远？
银鳕鱼汞中毒风波：涉事企业建议每周吃2至3次，称“儿童装”非婴幼儿专用
硬科技早报|长鑫新技术突破；华为云销售组织大调整；美国起诉TP-Link
Copyright © 2010-2026 观察者 All rights reserved。 沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001 网登网视备（沪）02020000041-1号 广播电视节目制作经营许可证：（沪）字第03952号 增值电信业务经营许可证：沪B2-20210968 互联网宗教信息服务许可证：沪（2024）0000009 违法及不良信息举报电话：021-62376571 沪公网安备 31010502000027号 中国互联网举报中心 上海市互联网违法与不良信息举报中心