MIT：GPT-6 Astra能直接修改Qwen权重，数学能力暴涨6倍
鹭羽 发自 凹非寺 量子位 | 公众号 QbitAI
0.8B的「源神」Qwen3.5交给Astra，仅改动其中 0.016% 的权重，模型性能可以直接飞升。
同样的采样设置下，MATH-500得分从7.9%飙升到48.1%，数学运算能力是原来的约 6倍 。
视频链接：https://mp.weixin.qq.com/s/tdEmYQz4B9W4OfNpkU-anw
Astra爆改模型权重
简单来说，就是让大模型直接分析神经网络权重，判断它在做什么、哪里出了问题，再按要求修改，甚至从零写出一个网络。
研究者给Astra准备了一个Python环境，里面放着Qwen3.5-0.8B的全部权重。
通常训练模型，要根据输出与目标之间的差距计算损失，再通过反向传播得到梯度，由优化器更新参数。
一道题摆到面前，它反复生成相似文字，却迟迟交不出答案。在最初96条练习回答里，有85条一直跑到了32768个token的长度上限。
Astra沿着失败表现一路查下去，把循环追到了 前馈网络 ，并在第15层和第19层的各64个输出列中修改相应权重影响。
研究者又分别给了Astra 10、25和50次前向调用预算，修改后的MATH-500得分依次是12.3%、14.1%和48.1%。
研究者训练了四个玩不同游戏的小网络，再把原始权重以文本形式交给Astra。其中四个网络的架构、输入通道和动作选项完全相同。
视频链接：https://mp.weixin.qq.com/s/tdEmYQz4B9W4OfNpkU-anw
研究者接着增加难度，拿来三个720万参数的小语言模型，分别用Python代码、日语罗马字和英语训练，再移除输入、输出层，只留下中间四个Transformer模块。
这下，连哪个数字对应哪个字符都不知道，模型也没法直接运行文本了。Astra用Python分析权重，但不能给这些网络或其中的层输入数据、观察运行结果。
原本用PPO训练的网络总是往坡上冲，然后卡住；要过关，得先倒车拉开距离，再加速冲坡。
研究者给出权重、场景描述和一段失败记录，Astra不用工具，一次回复写出补丁，只改了3.5%的权重，就让小车在1024次测试中 全部成功 。
视频链接：https://mp.weixin.qq.com/s/tdEmYQz4B9W4OfNpkU-anw
训练不存在了？
在MinAtar小游戏实验里，Astra拿到游戏规则、源代码和指定网络结构。没有训练数据、损失值、梯度和工具，也不能先把网络放进环境里试跑。
作为对照，PPO训练1亿步得15.8，训练5亿步得25.3，直接超了 20倍 。
这项工作的看点，是让一个现成的通用前沿大模型，围绕自然语言目标， 自己分析和改写权重 。
Astra本身积累的知识与能力，仍然来自它此前的训练；分析权重、生成代码、批量推理和评测，也都要花计算资源。
参考链接： [1] https://x.com/i/trending/2117328869283840499 [2] https://rikiyat.github.io/blog/weight-space-programming/ [3] https://x.com/rikiyatakehi/status/2117313742891327994
央视严选「中国AI创业十骏」：唯一AI制药公司是清华系 2026-11-02
多智能体协同重构医疗AI！清华AIR孵化：医生AI分身“坐诊”医院 2026-10-21
RSI三块关键拼图，MemT 1.0从模型层补上「记忆」 2026-10-20
突发！DeepSeek新模型发布，超级性价比斩杀一切 2026-10-17
相关阅读
索尼搞了个大新闻！AI打败人类三冠王，登上Nature封面，这波让任天堂无话可说
中国AIGC最值得关注企业&产品榜单揭晓！首份应用全景图谱发布
华为的战略执行力，不得不服
每天2亿美元投入AI领域，1/10砸向自动驾驶，中国AI论文首超全欧洲 ｜ 斯坦福全球AI年度报告
AI狼人杀大决战！GPT、Qwen、DeepSeek大乱斗，人类高玩汗流浃背
比LoRA更高效！上交大&哈佛推出新微调框架，瞄准特定任务方向
热门文章
刚刚，DeepSeek重磅开源：Agent底座架构！
刚刚，Gemini 4 Carbon全面超越Opus 5.5！首发Token半价
小米开源了个150元的AI小玩意，火到配件都涨价了
Claude紧急叫停！暗改Harness禁止逆向游戏
量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1