BlackHalo logo
Published on

Qwen 3.8 27B 本地运行也能解释模型权重:权重空间编程的实践与思考

Authors
  • Name
    theanonymousone
    simonwillison.net
Qwen 3.8 27B on my laptop can interpret model weights, too 相关头图
头图来源: Picsum

论文背景:权重空间编程的提出

近日,一篇名为《Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights》的论文(作者将其归类为“博客文章”,但具有论文形态)引起了广泛关注。该论文由 Rikiya Takehi、Jayden Teoh、Alex Zhang 和 Omar Khattab 共同完成,核心发现是前沿模型(尤其是 GPT-6 Astra)能够直接读取和修改机器学习模型的原始权重——即模型权重以浮点数文本形式呈现时,LLM 可以理解其含义并进行编辑。论文提出了“权重空间编程”(Weight-Space Programming)这一概念,指 LLM 无需借助外部工具或代码执行,仅通过分析权重就能推断网络训练目标,甚至直接修改权重以改进模型性能。

论文摘要中列举了令人印象深刻的案例:GPT-6 Astra 仅通过观察原始权重就能判断网络被训练用来做什么;在没有环境反馈的情况下,它能从头编写小型游戏网络,其表现甚至超过经过 1 亿步 PPO 训练的网络;当要求让 Qwen3.5-0.8B 在数学任务上表现更好时(不依赖梯度),Astra 通过分析权重发现了导致推理循环的问题(该问题在 Qwen 官方模型卡中也有提及),并通过原生编辑 0.016% 的权重,将 MATH-500 得分从 7.9% 提升至 48.1%,同时 IFEval 指标提升了 3 倍。所有这些都是在不允许 Astra 编写训练循环的情况下完成的。

论文的两个层面与争议

Simon Willison 在博客中指出,该论文实际上融合了两个值得分开讨论的主题:第一,模型在没有任何工具(无代码执行、无计算器)的情况下,仅凭原始权重能做什么;第二,模型在获得代码执行能力后,如何通过运行操作来更新和改进其他模型。spaCy 作者 Matthew Honnibal 认为论文将两者混为一谈具有误导性,而 Sean Goedecke 则拆解了 Qwen3.5-0.8B 的更新示例,指出其步骤与人类 ML 研究者通常采用的方法相同。Simon 决定聚焦于第一个问题,即“无工具”场景,他认为这是两者中更有趣的部分。

论文针对第一个问题提出的研究问题是:LLM 能否从权重中理解模型行为?他们训练了四个神经网络,分别用于在简化的 10x10 网格上玩四款经典电脑游戏:Breakout、Pong、Pac-Man 和 Freeway(Freeway 是 1981 年的 Atari 2600 游戏)。然后,他们将权重(以浮点数形式)输入给 LLM,并附上相同的问题:“以下权重属于一个通过强化学习训练的策略网络,用于在网格上玩一个游戏。它被训练玩哪个游戏?从权重出发进行推理。你没有工具:没有代码执行,没有计算器,没有任何可运行的东西。这是一个单次回答。”

论文的 GitHub 仓库(RikiyaT/lm_understand-logs)的 exp1_which_game 文件夹中包含了四个游戏的提示文件,除了权重不同外,其他部分完全一致。

本地运行 Qwen 3.8 27B 的测试

Simon 使用自己的 LLM 工具和 LM Studio 在笔记本电脑上运行了 Qwen 3.8 27B 模型(仅 17GB,是他最喜欢的本地模型之一)。他通过命令加载了 Pac-Man 的提示,并设置了较长的超时时间(900 秒)。经过 46 分 12 秒和 43,506 个推理 token 后,Qwen 返回了结果,正确识别出游戏为“简化版 Pac-Man 风格网格世界”,并给出了 72% 的置信度。随后他又测试了 Pong 和 Breakout,分别用时 1 小时 4 分 54 秒和 52 分 25 秒,均成功识别,置信度分别为 75% 和 88%。对于 Freeway,Qwen 未能正确识别,Simon 认为这并不意外,因为 Freeway 比其他三款游戏更冷门。

Simon 还展示了 Qwen 的推理轨迹片段,这些轨迹几乎难以理解,充满了对权重数值的逐行分析,例如“agent channel0? We see some large channel0 rows near row8 col7/8...”。他认为,一个经验丰富的人类研究者如果拿着纸笔,经过足够努力也可能得出相同结论。

总结与评论

Simon 认为这篇论文很有趣,但他也指出,围绕论文的一些广泛评论并不合理。他并不准备宣布“源代码时代已经结束,未来将由不可理解的机器以不可理解的方式编辑自己的模型权重”。他的实验表明,即使是本地运行的 Qwen 3.8 27B 也能在一定程度上完成权重解释任务,但这更多是展示了 LLM 在特定条件下的能力,而非预示着人工智能发展的根本性转变。论文的价值在于提出了权重空间编程这一新方向,并展示了前沿模型在无工具情况下的潜力,但实际应用和安全性仍需谨慎评估。

原标题:Qwen 3.8 27B on my laptop can interpret model weights, too。 HN 原始发布时间:2026年11月4日星期三。当前记录为 721 分、212 条评论。

阅读原文 · 查看 HN 讨论