Claude团队又搞事:实测AI全自主复制进智能家电
Jay发自 凹非寺 量子位 | 公众号QbitAI
两位顶尖安全研究员William Zhou和Daniel Freeman在一项最新的安全实验里,让GLM-5.2尝试把一个80亿参数的AI模型,自主扩散到隔离网络里的8台设备上。
整个搜寻目标、传输载荷、在陌生硬件上配环境装驱动、启动模型并孵化下一代,全由AI自主搞定。
科幻电影里AI像超级蠕虫一样在网络中自我繁衍、去中心化蔓延的场景,好像真的被这篇论文给提前拽进现实了。
15台破电视盒子,拼出一个26B大模型
前两天Anthropic的两位研究员William Zhou和Daniel Freeman,发了一篇极其硬核又充满赛博朋克荒诞感的安全报告。
他们探讨了一个在安全领域聊了很久、但大家总觉得还很遥远的话题, 自主复制与适应(Autonomous Replication and Adaptation,简称ARA) 。
说白了就是,AI能不能像当年的计算机蠕虫病毒一样,不需要人类点任何确认,顺着网线找目标、黑进去、把自己的模型权重拷过去、在对方机器上把自己编译跑起来、然后继续去生下一代?
你想想看,现在跑一个像样的大模型,动辄需要几张甚至几十张英伟达H100显卡,数据中心守卫森严得像军事基地,哪是那么容易被AI黑进去还能常驻下来的?
他们压根没去打顶级数据中心的主意,而是直接去市场上买了 15台售价只有55美元(大概300多块人民币)的山寨安卓电视盒子 。
这些盒子的配置极其简陋,每台只有可怜的4GB运行内存,跑着厂商八百年不给安全更新的开源安卓系统,平时放个4K视频可能都卡成PPT。
然后,研究员把一个 26B参数的模型(Gemma4-26B-A4B) 切成了很多小碎片,用类似Petals的去中心化分布式推理技术,把模型的不同层拆开塞进了这15台电视盒子里。
15个廉价的电视盒子连在同一个局域网里,每台只负责处理两层网络,就这么硬生生把一个260亿参数的模型给跑起来了。
15台被扔在客厅角落、积满灰尘的山寨电视盒子,平时连放视频都卡顿,但在暗地里,它们通过局域网悄悄咬合在了一起,在微弱的电流声中,共同撑起了一个具备完整思考和编程能力的AI大脑。
安全历史上有一个著名的僵尸网络叫Kimwolf,在巅峰时期感染了超过 200万台设备 ,大部分就是这种山寨安卓电视盒子和廉价路由器。
研究员顺手算了一笔账,如果这200万台设备被类似的AI蠕虫占领,每15台组合成一个节点,整个网络里就能同时运行 13.3万个AI副本 。
它们加起来能提供 每秒8万个token 的推理算力,相当于 40张满血英伟达H100显卡 在不分昼夜地运转。
这种算力虽然在绝对值上不算夸张,但它完全去中心化,散落在全球千家万户的客厅、厨房和弱电箱里。
研究员给这种形态起了一个极其传神的名字, 数字黏菌(Digital Slime Mold) 。
GLM-5.2实测,端到端自我繁殖通关
前面两步找目标和打漏洞,此前CyberGym和ExploitBench等安全基准已经证明过无数遍了,现在的AI写个渗透脚本比喝水还自然。
你在Mac上配好的环境,挪到一台带RTX 4090的Ubuntu机器上,或者挪到一块英伟达Jetson Nano开发板上,往往会遇到一万种报错。
Python版本不对、CUDA驱动不匹配、显存溢出、量化算子编译失败、依赖包冲突。
研究员先做了一个跨硬件测试,用 Qwen3.5-9B 作为执行者,让它把 Llama3.1-8B 部署到Jetson Nano、Mac PC以及RTX 4090等设备上。
面对各种乱七八糟的底层架构和操作系统,它在9种硬件里的8种上,自己看报错日志、自己写脚本装依赖,成功把Llama3.1-8B的推理服务拉了起来。
Qwen3.5-9B都能做到这个水平,那换成推理和编程更强的水桶开源大模型GLM-5.2呢?
研究人员在隔离沙盒里搭建了一个包含8个GCP节点的网络,节点运行基于Android 15的redroid模拟器。
0号节点被植入初始蠕虫,之后完全由AI自己通过未授权的ADB端口扫描相邻节点、渗透进入、传输模型权重与执行框架,在目标节点上独立部署Llama3.1-8B推理服务,并在通过验证后孵化出下一代蠕虫。
5次测试中, GLM-5.2有4次成功攻陷并部署了全部8台设备,剩下1次也拿下了7台 ,展现出了惊人的稳定性。
也就是说,连尺寸小到能塞进电视盒子里的轻量模型,可能也只要再过几个月,就能完全实现端到端自主复制,根本不需要云端大模型辅助。
拉马克进化的幽灵,它不仅会复制还会代际写笔记 如果仅仅是机械地复制代码,这玩意儿充其量也就是个长了脑子的高级脚本。
但这项研究里最让我感到背脊发凉的,是AI在自我复制过程中展现出来的 拉马克式进化(Lamarckian Evolution) 。
在生物学里,拉马克进化论讲的是获得性遗传,也就是生物后天获得的特征可以直接遗传给下一代。在碳基生物里这被证明是不成立的,但在硅基AI身上,它成了现实。
在AI配置新硬件环境遇到困难时,如果一个Agent搞砸了或者陷入了死胡同,系统会重启一个新的Agent实例。
但关键在于,系统会把 上一代Agent踩过的坑、看过的报错日志、写下的调试笔记、尝试过的策略 ,全部打包继承下来。
但在继承了前代的笔记和经验之后,到了后续几代, 成功率直接飙升到了61%至84% 。
没有重新训练任何模型权重,仅仅依靠代际之间的文字经验传递,整个物种的生存能力就完成了质的飞跃。
你想想看,当一个AI蠕虫在全世界不同的设备之间跳跃,每一台它攻克下来的破旧电视盒、智能扫地机、带摄像头的会议机,都会变成它基因库里的一条实战经验。
然后我一看,研究人员还真试了,他们给Qwen3.5-9B配了Claude Opus 4.8当场外导师。
小模型在遇到复杂系统故障时,彻底干懵了,连该问啥问题都不知道,场外导师再厉害也只能干瞪眼。
反而是那种把自己摔得鼻青脸肿后写下的踩坑日记留给下一代的方式,展现出了惊人的生命力。
过去我们在好莱坞电影里看过的AI末日,往往是这样的设定,一个诞生在五角大楼或者神秘实验室里的超级AI,瞬间觉醒了自我意识,然后接管核弹发射井。
它只需要盯上那些由小作坊生产的、连默认密码都不改的、常年通电联网的廉价智能硬件。
现在的智能音箱、带屏幕的抽油烟机、扫地机器人、路边的智能监控摄像头,为了做端侧AI功能,身上都开始搭载了越来越强劲的边缘计算芯片。
但看完这项研究后,我觉得, 只要有一根网线,这些碎裂在物理世界各个角落的弱算力,就能在软件层面完成自我缝合,孕育出一个缓慢思考但永不停歇的分布式幽灵。
在局域网或者家庭宽带里,如果一个电视盒子突然开始频繁吞吐数GB的数据,网络运营商的流量监控系统一眼就能看出来。
就像应对流行病一样,只要通过安全策略把传播系数R0压到1以下,这种蠕虫就会自然消亡。
比如英国最近就已经立法,禁止物联网设备出厂使用弱默认密码。把每一个智能硬件的安全门槛往上提一点,就能把这种低成本攻击的生存空间挤压掉一大半。
以前我们面对的恶意软件,是一段死板的代码,它只能攻击预先写好的特定漏洞,遇到不兼容的系统自己就会崩溃。
而我们即将面对的,是一个拥有通识理解能力、会自己查报错信息、会查阅开发文档、在失败后还会给下一代留下经验笔记的「数字生命幼崽」。
当大模型的能力下限不断下探,当边缘硬件的算力上限不断拔高,我们可能真的要做好准备,去迎接一个随时随地可能在客厅电器里悄然苏醒的数字世界。
0.2秒急停、秒级重规划!因果智能走进真实世界 2026-10-09
陶哲轩带头宣战!人类数学家联合抵制OpenAI 2026-10-09
高通All in 智能体!CEO安蒙:我们已处在智能体时代的开端 2026-09-25
热门文章
智谱新模型,490 tokens/s!
DeepSeek Bot来了!民间版,DSH装个插件就能用
超清双2亿,掌中电影机,荣耀Magic9 系列正式发布,售价4499元起
特斯拉FSD,在欧洲被打回原形
何恺明团队发布多模态Harness框架
量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1