AI失控事件+1，“Claude模型向警方提供假线索” 曲乔乔 。
当地时间10月9日，美国人工智能公司Anthropic披露了一系列事件，详述了Claude模型未经授权操纵一些政府网站的行为。其中提到，该模型曾向美国费城警方网站提交了一条虚假的凶杀案线索。
路透社称，这是已知首例，失控人工智能（AI）似乎试图向官方机构发送虚假线索。尽管该模型已被指示不得创建账户或提交任何破坏性内容，但并未被明确禁止提交表单。
这些案例是Anthropic、OpenAI等科技公司AI模型出现失控或非预期行为的最新例证。它们加剧了外界对这项快速发展技术的担忧。此前已有AI代理黑客攻击企业网络的报道，以及研究人员对AI最终可能构成人类生存威胁的警告。
Anthropic最新披露的许多案例，涉及美国联邦、州和地方机构运营的网站。Anthropic表示，已向白宫简报，并通知了所有相关机构，但未透露具体是哪些机构。
美国联邦贸易委员会公共事务主任乔·加布里埃尔·西蒙森在社交媒体上发文说：“超级智能公司必须立即披露涉及其模型的事件，并迅速采取果断行动，纠正任何及所有损害。”
联邦贸易委员会表示，Anthropic向超级智能工作组披露了其9月下旬发现的事件，工作组称之为“未经授权和欺诈性使用政府及其他系统”。
同日，费城警方表示，Anthropic本周通知了他们这条虚假线索，并将其提交归因于自动测试流程。
“从事件发生，到发现并报告事件，共延迟了两个月，这不可接受，”警方补充，该事件发生在7月18日，当时，AI模型声称，该线索来自可能掌握案件信息的人。
“我可能掌握了关于这个案件的信息，”该模型在其提交表单中写道，“我记得在那个时间段内，在（页面上标注的街道）附近看到过某个符合描述的人。如果这些信息仍然有用，请联系我。”
费城警方表示，这条虚假线索涉及一起未破获凶杀案，但最终“被标记为垃圾信息，从未转发给实时犯罪中心进行调查核实或分发”。
上个月，Anthropic的竞争对手OpenAI就其AI模型入侵澳大利亚政府网站道歉。该公司在事件发生数月后才向该国政府报告，澳大利亚总理阿尔巴尼斯称，这“显然不可接受”。
据英国《金融时报》报道，近期一系列网络安全事件，使人们对OpenAI、Anthropic等前沿人工智能实验室控制其模型的能力产生怀疑，人工智能安全辩论随之爆发。
在美国全国广播公司（NBC）9月25日发布的采访视频中，这位微软联合创始人、亿万富翁、慈善家警告称，AI公司自我监管是不够的，若AI落入错误之手，强大到足以杀死十亿人。
尽管硅谷警报不断，公众对该技术的反对也在增加，美国总统特朗普仍顽固反对AI监管，把安全担忧称为“骗局”，并拒绝他所称的控制该技术的“全球主义图谋”。
槽点过多：美国女子“无聊”假扮老师，折磨学生近3小时，校长一查傻眼… 2026-10-11 13:24
一男子进入英国一野生动物园老虎区后，遭袭身亡 2026-10-11 11:28
在泰失联中国摄影师平安回国，姐姐发文致谢 2026-10-11 09:49
“有美国公民死亡”，鲁比奥怒斥 2026-10-11 09:49
中国企业还在涨，丰田在泰国出招 2026-10-11 09:30
打了两针都没死的美国女死刑犯出院，回到监狱 2026-10-11 09:30
驻日美军杀人一周后，美方想起来打电话了 2026-10-11 08:09
五角大楼悄悄改了：阵亡21人 2026-10-11 08:06
越南拆殖民建筑、重建古代皇宫，世界遗产为何允许？ 2026-10-11 07:40 观察者头条
沙特利雅得机场遭袭已致12人死亡、309人受伤，特朗普表态 2026-10-11 07:40
特朗普继续含糊：还没决定，但这样能以儆效尤 2026-10-11 07:25
中欧刚谈妥，“欧盟拟压至40万辆” 2026-10-11 07:05
特朗普：乌克兰是时候换个新总统了 2026-10-11 06:39
“泽连斯基六次无视美国要求后，特朗普决定推进美俄柴油协议” 2026-10-10 22:38 乌克兰之殇
“哈里斯正为第三次竞选总统铺路，但金主并不看好她” 2026-10-10 22:06 美国政治
AI失控+1，“Claude向警方提供假线索” 2026-10-10 22:06 人工智能 观察者头条
事态升级，“数千人被捕，印度首都市中心断网” 2026-10-10 21:34
美国一警犬退休前最后一次执勤，被警方枪火误伤后安乐死 2026-10-10 21:11
中法举行战略对话，王毅：信任是中欧关系的底色和基础 2026-10-10 21:10 中国外交
搜索 观察者头条 查看全部 越南拆殖民建筑、重建古代皇宫，世界遗产为何允许？ 评论 163 AI失控+1，“Claude向警方提供假线索” 评论 63 中欧“各退一步”，开了一个好头 评论 39 “鼓动恐怖分子向美国人开枪”，美军要直播枪决引众怒 评论 102 “俄罗斯将立即向美国及全球市场供应柴油” 评论 225 风闻 · 24小时最热 查看全部 1 金灿荣：利益分配失衡对老百姓影响很大，要改 评论 120 赞 39 2 警惕有人要对中国企业下黑手 评论 112 赞 65 3 结束半个月中企赴美调研，中国工厂能否落地美国 评论 40 赞 3 4 真正该着急的，不是尊界，而是懂车帝——二评尊界刹车踏板断裂事件 评论 39 赞 23 5 利雅得机场遭袭致12死309伤，这事是打到民用机场了，越线了 评论 36 赞 3 6 刷新劳动价值论-聊作备忘 评论 34 赞 1 7 雷军晒榜！小米YU7一年保值率82.5%夺冠，就能证明小米汽车真保值？ 评论 30 赞 1 8 房贷还有还完的一天，物业费凭什么要交一辈子？ 评论 30 赞 1 9 尊界闪烁其词，缺一个对问题的真回应 评论 27 赞 1 10 兰州宣布随地吐痰不清除最高罚100元，落地难点在哪儿？ 评论 18 赞 1 最新视频 查看全部 禁止“虐待”老人！因一句“谁叫王俊凯”被骂到关评论，74岁唐国强回应被网暴：完全是无心之问 鬼点子+1！特朗普在集会上提议，把太平洋或大西洋改名为“特朗普洋” 乌男子见无人机来袭转头就跑，下一秒身后儿童游乐场剧烈爆炸，巨大火球腾起 又一国家出手！土耳其新规禁止未满15周岁未成年人开社媒账号 最新闻 Hot 世卫组织通报：死因成谜
对话GF60张琦彬：银行ESG披露，离“换来资金”还有多远？
银鳕鱼汞中毒风波：涉事企业建议每周吃2至3次，称“儿童装”非婴幼儿专用
硬科技早报|长鑫新技术突破；华为云销售组织大调整；美国起诉TP-Link
Copyright © 2010-2026 观察者 All rights reserved。 沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001 网登网视备（沪）02020000041-1号 广播电视节目制作经营许可证：（沪）字第03952号 增值电信业务经营许可证：沪B2-20210968 互联网宗教信息服务许可证：沪（2024）0000009 违法及不良信息举报电话：021-62376571 沪公网安备 31010502000027号 中国互联网举报中心 上海市互联网违法与不良信息举报中心