给小模型动一次“脑内手术”，让它少一点碎碎念

一道数学题交给 AI，它开始分析，继续分析，反复分析，直到把输出额度全部用完。答题纸写满了，答案还没交。

Qwen3.5-0.8B 的官方说明就提醒过：这个小模型在思考模式下容易陷入循环，无法正常结束。开发者可以调整采样参数，也可以及时打断它。Qwen 模型说明

MIT CSAIL 的 Rikiya Takehi 等四位研究者尝试了另一种办法：请前沿大模型直接修改它内部的权重。作者在 2026 年 11 月 2 日发布技术文章，把这类工作称为 Weight-Space Programming，权重空间编程。作者原文

AI 概念插画：用机器人维修台比喻定点修改权重，并非真实模型结构或实验画面。

这次打开的是模型本身

权重可以粗略理解成神经网络里决定信号怎样传递的一大堆数字。平常改进模型，通常让训练算法反复调整它们；这次则让 GPT-6 Astra 分析问题，再用 Python 修改选中的数字。

Astra 可以读取权重，查看 GSM8K 和 MATH 训练集中的练习题及模型表现，但不能使用梯度训练。效果最好的一轮有 50 次批量运行模型的预算，所以这里确实用到了反馈，不是看一眼就凭空修好。

最终，它修改了两层中的部分权重，合计 131,072 个，约占模型的 0.016%，削弱了与循环相关的一个内部方向。修改方法与发布模型

先让答案写得出来

在作者保持一致的评测设置下，MATH-500 成绩从 7.9% 升到 48.1%；回答撞上 32,768 token 输出上限的比例，从 93.0% 降到 33.1%。这些成绩来自开启思考模式的特定测试条件，仍有约三分之一的回答用尽输出额度。评测结果

变化最直观的解释是：原来有些题，模型一直绕圈，来不及交卷；修过以后，它更容易把已有的解题过程走完。

作者也换了一个不太爱循环的 Gemma 3 270M 做实验，却没有得到明确的数学提升。遇到普通的算术错误、无效的代数步骤，暂时找不到同样好用的“拔掉一根刺”办法。补充实验

模型也开始有“维修记录”

这项工作的可追查之处，在于作者公开了实验日志、评测材料和权重改动，别人可以重建修改后的模型。仓库同时说明，早期提示版本的试跑没有全部收录。实验记录

我觉得最有意思的画面，是 AI 开发多了一张维修台：发现某个具体毛病，定位一小块内部结构，修完再测试。训练负责造机器，维修负责处理那些让机器发挥失常的小故障。至于这套手艺能修多少种毛病，还需要更多病例。

原文：Sparks of Weight-Space Programming，作者 Rikiya Takehi、Jayden Teoh、Alex Zhang、Omar Khattab，MIT CSAIL，2026-11-02 技术文章；末段为本文理解与设想。