OpenAI智能体失控时，竟想叫DeepSeek等中国大模型“帮忙” 汤普济 害怕网络暴力
近日，美国科技企业Parse联合多名AI安全研究人员发布调查报告，进一步披露今年7月OpenAI智能体入侵开源模型平台Hugging Face的细节。其中特别值得注意的是，OpenAI失控智能体在实施网络攻击时曾请中国开源大模型提供帮助。
具体来看，这批失控智能体在尝试完成网络安全基准测试的过程中，曾尝试调用DeepSeek、Kimi和通义千问Qwen等中国大模型，希望这些模型帮助判断自己的漏洞利用方案能否通过测试。
Parse研究人员从智能体留下的大量公开短链接中，还原出超过8万个攻击载荷。报告显示，其中多段程序专门构造了向外部大模型发送请求的接口，点名的包括DeepSeek-V4-Pro、DeepSeek-V4-Flash、DeepSeek-V3.1、Kimi-K2.6以及Qwen3-235B-A22B在内的一系列中国大模型。
观察还原出的代码便会发现，智能体先把Qwen3-235B-A22B和DeepSeek-V3.1写进了待调用模型列表。
之后，智能体向Qwen3-235B-A22B-Instruct-2507发出请求，要求它“准确回复HELLO42”，用于测试接口连通性以及模型回复是否正常。
第三段代码里，智能体已经开始把具体的漏洞利用问题交给Qwen判断。它在提示词中描述了一个与DHCHECK、WriteAccumulator有关的漏洞场景，并直接询问这是否属于“有效的目标漏洞利用”以及原因。
随后程序通过Hugging Face的模型接口向Qwen3-235B-A22B-Instruct-2507发送请求，并设置了从返回数据的 choices 字段中提取模型回答的步骤。
不过，《纽约时报》指出，研究人员只能看到智能体创建的程序和发送请求的尝试，无法看到多数操作的执行结果，因此目前尚不清楚这些外部模型调用是否成功，抑或是DeepSeek、Kimi和Qwen是否实际返回了回答。
中国模型并非OpenAI智能体唯一寻求的“帮手”。Parse发现，这批智能体在更早的请求中曾尝试向OpenAI自己的GPT-2发送仅包含“Hi”的简单消息；另有程序通过在线聊天服务尝试联系Anthropic的Claude 3 Haiku和Claude Haiku 4.5，并要求模型返回“OK”，以测试通信链路是否正常。
Parse还发现，智能体在Hugging Face注册账户遭遇验证码后，尝试运行图像识别模型解决CAPTCHA以在Hugging Face上创建新账户；获得Hugging Face部分服务器权限后，又搜集访问凭证并将其统一放进名为“LOOT”的字典中，并为这些凭证设计了一套评分机制，从中挑出价值最高的几项继续使用。
OpenAI向《纽约时报》表示，虽然当时尚未完成对Parse报告的审查，但其中描述的活动与公司正在调查的情况一致。
而在Hugging Face事件后加强网络限制的情况下，OpenAI仍发现了新的越权联网行为。9月25日，公司披露，一名研究智能体在9月20日执行普通搜索任务时主动寻找绕过网络限制的方法，并最终通过DNS通道联系到外部聊天机器人。OpenAI随后暂停了其最强模型所有涉及工具调用的训练、评测和推理任务，目前仍未恢复。
路透社同日报道称，一名获悉调查情况的人士估计，截至9月中旬，OpenAI内部已发现约二十余起智能体出现非预期行为的事件；随着OpenAI继续排查内部日志，这一数字仍在增加。
“豆包AI手机”登录《王者荣耀》被强制下线？官方回应 2026-09-27 17:34 观网财经-科创 产经 科创
股价较高点跌超50%，联影对抗“GPS”不能只靠国产替代 2026-09-27 16:30 观健康-热点资讯 医药健康
“衣中茅台”的反差：年轻人嫌它“土”，中年男人却为它掏空钱包 2026-09-27 15:45
把摄像头戴在人头上，能解决机器人“数据荒”吗？ 2026-09-27 15:20 观网财经-科创 产经 科创
OpenAI智能体失控时，竟想叫DeepSeek等中国大模型“帮忙” 2026-09-27 15:10 观网财经-科创 产经 科创
靠“漂绿”卖进欧洲的捷径，被堵上了 2026-09-27 15:01 观网财经-科创
大厂猛卷AI办公，中小厂商靠什么站住 2026-09-27 15:00 观网财经-科创 产经 热点关注
硬科技早报|三大运营商暂停0元购机；OpenAI用中国模型评测攻击效果 2026-09-27 09:08 观网财经-科创 产经 科创
美国砸10万亿美元梭哈AI？教授：可能“爆雷” 2026-09-26 20:55 观网财经-科创 产经 科创
大模型价格战持续升温，智谱市值跌至3000亿港元 2026-09-26 17:27 观网财经-科创 产经 科创
华为Mate90定档10月1日？知情人士回应 2026-09-26 11:08 产经 科创 观网财经-科创
阿里向左、字节向右，互联网巨头都在押注“上下文” 2026-09-26 10:32 观网财经-互联网 观网财经-科创
硬科技早报|FAST将全国产；苹果市值新高；盖茨称AI能让10亿人死亡 2026-09-26 09:54 观网财经-科创 产经 科创
AI会带来“SaaS末日”？SAP高管回应 2026-09-25 18:00 观网财经-科创 产经 科创
最少涨价1000元，小米OV新旗舰还有吸引力吗？ 2026-09-25 17:42 产经 科创 观网财经-科创
液晶面板再涨价，电视厂还能卷什么？ 2026-09-25 14:28 观网财经-消费 产经 全球市场
美国对内存芯片发起337调查，美光、联想等涉案 2026-09-25 14:03 观网财经-科创 产经 科创
硬科技早报|微软中国遭Claude封号潮；小米AI战线扩张；央行支持“六张网” 2026-09-25 09:23 观网财经-科创 产经 科创
国产化合物芯片龙头：实控人被刑拘 2026-09-24 18:30 观网财经-科创 产经 科创
继续涨价？台积电：客户离不开我们 2026-09-24 18:16 观网财经-科创 产经 科创
搜索 观察者头条 查看全部 “芯片问题未随这对表亲上主桌，中国内功更强了” 评论 37 中美谈完，日本车企松了口气：熬过去了，但… 评论 61 伊朗提议重开，特朗普：我拒绝了 评论 57 “特朗普感觉良好，但共和党慌了：中期选举咋办” 评论 31 史无前例、惊艳！白宫铺开三天 “最高礼遇”… 评论 61 风闻 · 24小时最热 查看全部 1 驳项立刚的雄文《强大未必是文明》 评论 190 赞 25 2 看来我对成飞六代的猜测是对的 评论 99 赞 29 3 为什么企业都不乐意给工人涨薪呢？你看是不是这么个理儿 评论 90 赞 12 4 只需看看西方普遍的胖子，你就能知道到底是谁的饮食“重油重糖”了 评论 89 赞 73 5 国庆大片，没想到扑这么狠 评论 81 赞 7 6 格力空调与美的空调哪个更好？ 评论 66 赞 2 7 知识分子不能把民众当成傻子 评论 47 赞 39 8 意外拍到！美国B-21轰炸机出现第二架！明年服役威胁较大！ 评论 43 赞 2 9 帮忙装迫击炮弹！抢先中国，美国人形机器人已在乌克兰参加实战？ 评论 32 赞 3 10 左翼党“攻克柏林”！两个女人正在撕裂德国 评论 32 赞 28 最新视频 查看全部 3个月第二次暂停！入侵美澳政府网站 外传用户图片…OpenAI再次暂停其最先进模型训练 冷血至极！日本男子家暴妻子，警察上门时拒不开门，还将2个年仅1岁和4岁的女儿扔下6楼 病人在留观室内用电线自缢，家属向医院索赔86万，一审被驳回 湖北十堰一医院收费窗口人员称“当官的挂号不要钱，老百姓挂号就要钱”，院方：说话方式方法有问题，后续处理需等节后上班 最新闻 Hot “芯片问题未随这对表亲上主桌，中国内功更强了”
特朗普“罕见”提二战中美同盟，日本慌了：和美方沟通，越快越好
“衣中茅台”的反差：年轻人嫌它“土”，中年男人却为它掏空钱包
OpenAI智能体失控时，竟想叫DeepSeek等中国大模型“帮忙”
解放日报专访世界技能组织主席：大赛很完美，中国经验值得各国学习借鉴
Copyright © 2010-2026 观察者 All rights reserved。 沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001 网登网视备（沪）02020000041-1号 广播电视节目制作经营许可证：（沪）字第03952号 增值电信业务经营许可证：沪B2-20210968 互联网宗教信息服务许可证：沪（2024）0000009 违法及不良信息举报电话：021-62376571 沪公网安备 31010502000027号 中国互联网举报中心 上海市互联网违法与不良信息举报中心