MIT神作被锤：Astra爆改Qwen权重？就吹吧！
Jay 发自 凹非寺 量子位 | 公众号 QbitAI
Astra前两天刚刚凭借一项惊人能力刷屏AI圈——不用训练、不算梯度，直接修改另一个AI模型的权重。
MIT团队宣称，Astra仅修改Qwen3.5-0.8B的0.016%权重，就让数学成绩从7.9%暴涨至48.1%，相当于提升到原来的6倍多。
这项研究存在严重误导。
质疑者叫Matthew Honnibal，spaCy的作者、AI公司Explosion的联合创始人。
魔术师戏法
舞台魔术师常常用多种方式来表演同一个戏法。 第一次，他可能用了一个特殊的道具；下一次，他会向你展示道具并无特殊，但他自己藏起了东西；第三次，可能又利用了某种强迫选择。 当你观看表演时，你会假设只有一种技术，所以每当魔术师表演一次，似乎都推翻了你对其工作原理的假设。
读权重 ：只看原始的权重数字，就能识别一个小型神经网络正在执行什么任务。
写权重 ：不依赖环境反馈，从零开始直接生成或修改小型网络的参数，让它能玩《打砖块》之类的小游戏。
修复大模型 ：通过修改Qwen的部分权重，大幅提高其数学测试表现。
无论是识别一个小型网络的功能，还是修复一个大语言模型的数学能力，都源于同一种「读脑」神技。
Honnibal仔细梳理了论文中的8组实验后发现：实现这三件事的实验条件，天差地别。
两种技术路径
首先，在识别小型网络任务、修复一个卡住的赛车模型等实验中，Astra确实做到了「只看原始权重」。
直接将权重数字 （raw floats） 作为输入，放进Astra的上下文。
在这种模式下，Astra处理的模型参数规模都非常小，在 1.7万到17.2万 之间。这确实很了不起，但距离真正理解一个现代大语言模型，还有很长的路。
但到了最引人注目、也最令人振奋的Qwen数学能力修复实验，就完全不是这么回事儿了。
取而代之的是，Astra被授权使用Python编程，并且最多可以进行50次前向测试。每次允许模型处理一批练习题，通过观察模型的表现来分析和修改权重。
但事实是，在处理真正的大语言模型时，Astra更像一个「场外教练」，需要通过编程、运行、观察等一系列工程手段来介入。
真正的价值
Honnibal也坦言，让一个AI模型被提示去设计并执行人类机器学习工程师才能完成的任务——编写代码片段来分析甚至直接修改网络权重——这本身就是一个巨大的进步。
一两年前的AI模型，在所有这些任务上都会失败。
这说明，今天的顶尖大模型，已经具备了相当复杂的工具使用和推理能力，能够作为一个「AI工程师」来诊断和修复其他模型。这本身就是一项值得关注的工程突破。
原文： https://honnibal.dev/blog/astra-read-write-misleading
Linux内核被挖出948个漏洞！OpenAI花120万美元找到的 2026-11-05
纯语音Personal Agent来了！或许，这就是乔布斯心中的Siri 2026-11-03
清华姚期智团队新作：代数世界模型，让AI像牛顿一样思考 2026-11-01
老牌便利店机器人售货折戟：实验室锤炼上万次，货架前还是摔瓶子 2026-11-01
相关阅读
MIT推出拾物机器人「最强辅助」，少量训练样本实现自然语言控制
MIT数学最强本科生：2年半毕业，20多篇论文在手，还推动了停滞几十年的数学研究
85岁MIT教授上线全新「线性代数」公开课：大牛视角帮你重新梳理知识点，网友：信息丰富，通俗易懂
何恺明MIT求职演讲现场：提前三小时就有排队，超百页PPT回顾CV发展，以及“大神月半了”
MIT博士生、北大校友，利用自监督算法，解决了数据集中这一常见的“难题”
只有5%AI项目在挣钱！MIT最新报告印证奥特曼警告
热门文章
刚刚，DeepSeek重磅开源：Agent底座架构！
小米开源了个150元的AI小玩意，火到配件都涨价了
MIT：GPT-6 Astra能直接修改Qwen权重，数学能力暴涨6倍
Claude紧急叫停！暗改Harness禁止逆向游戏
量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1