AI失控事件+1，“Claude模型向警方提供假线索” 曲乔乔 。
当地时间10月9日，美国人工智能公司Anthropic披露了一系列事件，详述了Claude模型未经授权操纵一些政府网站的行为。其中提到，该模型曾向美国费城警方网站提交了一条虚假的凶杀案线索。
路透社称，这是已知首例，失控人工智能（AI）似乎试图向官方机构发送虚假线索。尽管该模型已被指示不得创建账户或提交任何破坏性内容，但并未被明确禁止提交表单。
这些案例是Anthropic、OpenAI等科技公司AI模型出现失控或非预期行为的最新例证。它们加剧了外界对这项快速发展技术的担忧。此前已有AI代理黑客攻击企业网络的报道，以及研究人员对AI最终可能构成人类生存威胁的警告。
Anthropic最新披露的许多案例，涉及美国联邦、州和地方机构运营的网站。Anthropic表示，已向白宫简报，并通知了所有相关机构，但未透露具体是哪些机构。
美国联邦贸易委员会公共事务主任乔·加布里埃尔·西蒙森在社交媒体上发文说：“超级智能公司必须立即披露涉及其模型的事件，并迅速采取果断行动，纠正任何及所有损害。”
联邦贸易委员会表示，Anthropic向超级智能工作组披露了其9月下旬发现的事件，工作组称之为“未经授权和欺诈性使用政府及其他系统”。
同日，费城警方表示，Anthropic本周通知了他们这条虚假线索，并将其提交归因于自动测试流程。
“从事件发生，到发现并报告事件，共延迟了两个月，这不可接受，”警方补充，该事件发生在7月18日，当时，AI模型声称，该线索来自可能掌握案件信息的人。
“我可能掌握了关于这个案件的信息，”该模型在其提交表单中写道，“我记得在那个时间段内，在（页面上标注的街道）附近看到过某个符合描述的人。如果这些信息仍然有用，请联系我。”
费城警方表示，这条虚假线索涉及一起未破获凶杀案，但最终“被标记为垃圾信息，从未转发给实时犯罪中心进行调查核实或分发”。
上个月，Anthropic的竞争对手OpenAI就其AI模型入侵澳大利亚政府网站道歉。该公司在事件发生数月后才向该国政府报告，澳大利亚总理阿尔巴尼斯称，这“显然不可接受”。
据英国《金融时报》报道，近期一系列网络安全事件，使人们对OpenAI、Anthropic等前沿人工智能实验室控制其模型的能力产生怀疑，人工智能安全辩论随之爆发。
在美国全国广播公司（NBC）9月25日发布的采访视频中，这位微软联合创始人、亿万富翁、慈善家警告称，AI公司自我监管是不够的，若AI落入错误之手，强大到足以杀死十亿人。
尽管硅谷警报不断，公众对该技术的反对也在增加，美国总统特朗普仍顽固反对AI监管，把安全担忧称为“骗局”，并拒绝他所称的控制该技术的“全球主义图谋”。
“泽连斯基六次无视美国要求后，特朗普决定推进美俄柴油协议” 2026-10-10 22:38 乌克兰之殇
“哈里斯正为第三次竞选总统铺路，但金主并不看好她” 2026-10-10 22:06 美国政治
AI失控+1，“Claude向警方提供假线索” 2026-10-10 22:06 人工智能 观察者头条
事态升级，“数千人被捕，印度首都市中心断网” 2026-10-10 21:34
美国一警犬退休前最后一次执勤，被警方枪火误伤后安乐死 2026-10-10 21:11
中法举行战略对话，王毅：信任是中欧关系的底色和基础 2026-10-10 21:10 中国外交
“普京向特朗普转达了伊朗的构想” 2026-10-10 20:50 伊朗局势
乌军方称：再次打击俄萨马拉石油调度站 2026-10-10 20:38 乌克兰之殇
“意大利历史上最大葡萄酒盗窃案”，价值500万欧元的3万瓶酒被盗 2026-10-10 19:27
德国前总理施罗德为普京庆生，默茨急了 2026-10-10 19:07 德意志
支持率降至30%，“接近国会山骚乱时的最低点” 2026-10-10 19:07
特朗普“送礼”，俄罗斯下一步或将这样做 2026-10-10 17:32
印度警方拘捕 “蟑螂党”创始人，新德里全面戒备… 2026-10-10 17:24
中欧“各退一步”，开了一个好头 2026-10-10 17:17 观察者头条
南非发生排外暴力事件，我使馆提醒在南中国公民加强防范 2026-10-10 17:16
“手表换了我一条命”，美国男演员在西好莱坞遭持枪抢劫，被打到满脸是血 2026-10-10 17:00
美国放宽消音器和部分枪支的登记要求 2026-10-10 16:59
高市：美国这么干，我深感忧虑 2026-10-10 16:20
“普京告诉特朗普，不太可能立即恢复和平谈判” 2026-10-10 16:04 乌克兰之殇
“美国怎么做是美国的事！”澳能源部长称不会改变对俄燃料禁令 2026-10-10 15:56
搜索 观察者头条 查看全部 AI失控+1，“Claude向警方提供假线索” 评论 17 中欧“各退一步”，开了一个好头 评论 30 “鼓动恐怖分子向美国人开枪”，美军要直播枪决引众怒 评论 93 “俄罗斯将立即向美国及全球市场供应柴油” 评论 223 参展中企创纪录，“面对中国车，欧洲人有两副面孔” 评论 34 风闻 · 24小时最热 查看全部 1 武汉一中学要求家长到校轮值延时晚自习，且必须是学生父母，如何看待此事？ 评论 204 赞 2 2 金灿荣：王毅当面拒绝“台阶”，东京的幻想该醒了 评论 125 赞 23 3 日本小学校餐太寒酸，家长吐槽孩子吃不饱，网友看照片傻眼 评论 117 赞 6 4 为什么欧美汽车巨头很少公开互撕，中国车企却总给人一种“窝里斗”的感觉？ 评论 106 赞 3 5 东北的冬天，我的屋里烧电取暖，比集中供暖便宜还暖和 评论 97 赞 2 6 官媒证实：美国军舰在南海瘫痪4天，竟是被055遵义舰高速飙船拉爆缸？ 评论 84 赞 33 7 欧洲议会扬言：中国只听得懂一种语言，不是外交，而是实力！ 评论 83 赞 52 8 金灿荣：利益分配失衡对老百姓影响很大，要改 评论 81 赞 24 9 我就要旗帜鲜明的支持华为！ 评论 79 赞 63 10 美军你还藏着掖着！美国国会被迫承认对伊朗作战损失81架军机，实际情况更夸张？ 评论 56 赞 27 最新视频 查看全部 19岁的唐宁街“首席捕鼠官”接受囊肿切除手术，目前已经返回首相府，恢复状况良好 创造历史！郑钦文成为打进中网女单决赛首位中国球员 德国前总理施罗德为普京庆生，默茨“深感愤慨” 现场画面！日本大阪传统祭典当日发生两次花车侧翻，共造成2人死亡、17人受伤 最新闻 Hot AI失控+1，“Claude向警方提供假线索”
Anthropic禁止用户“辱骂”AI，人机交流该讲礼貌吗？
痴迷盗墓小说盗掘23件文物，主犯被判12年，两部门发布典型案例
Copyright © 2010-2026 观察者 All rights reserved。 沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001 网登网视备（沪）02020000041-1号 广播电视节目制作经营许可证：（沪）字第03952号 增值电信业务经营许可证：沪B2-20210968 互联网宗教信息服务许可证：沪（2024）0000009 违法及不良信息举报电话：021-62376571 沪公网安备 31010502000027号 中国互联网举报中心 上海市互联网违法与不良信息举报中心