Simon Willison实测：笔记本上的Qwen 3.8 27B也能从原始权重猜出游戏
他复现了论文《Sparks of Weight-Space Programming》中“只看权重、不跑代码”的实验：Qwen 3.8 27B在本机识别出Pac-Man、Pong和Breakout三个游戏，未能识别出Freeway。
Simon Willison于 2026 年 11 月 3 日发文称，他在自己的笔记本电脑上运行Qwen 3.8 27B，复现了论文《Sparks of Weight-Space Programming》里的一项实验：只把神经网络权重以浮点数形式交给模型，让它判断这个网络训练时玩的是哪款游戏。
按他的记录，Qwen 3.8 27B识别出了Pac-Man、Pong和Breakout，但未识别出Freeway。
实验怎么做：只给权重，不给工具
论文为四款 10x10网格简化游戏各训练了一个策略网络：Breakout、Pong、Pac-Man和Freeway（Willison注明Freeway是 1981 年的Atari 2600游戏）。实验把网络权重作为浮点数文本交给LLM，并提问“这些权重属于一个用强化学习训练来玩网格游戏的策略网络，它训练的是哪款游戏？请从权重推断。你没有工具：不能执行代码、不能用计算器、不能运行任何东西。这是一次回复”。
Willison使用LLM工具的 -f选项直接加载论文GitHub仓库（RikiyaT/lm_understand-logs）中exp1_which_game文件夹下的prompt。他核对后称，除权重数值不同外，四个游戏prompt的其余内容完全一致。
Qwen 3.8 27B的本机结果
Willison使用LM Studio加载Qwen 3.8 27B，通过llm-lmstudio插件调用。他称默认 8192 上下文会报错，需要调大上下文窗口，并把超时环境变量LMSTUDIO_TIMEOUT设为 900。
按他的记录，Qwen识别Pac-Man用时 46 分 12 秒、消耗 43,506 个推理token，给出的置信度为 72%；识别Pong用时 1 小时 4 分 54 秒，置信度 75%；识别Breakout用时 52 分 25 秒，置信度 88%。
Freeway的prompt没有成功。Willison贴出的回复记录显示，Qwen将其判断为“简化版Pac-Man-like网格游戏”。他认为Freeway比其他三款更不常见。他还提到，一位有经验的人拿纸笔花足够时间也可能完成同样的推断。
论文主张与外界质疑
论文摘要称，GPT-6 Astra仅看原始权重就能判断网络被训练来做什么；在没有任何环境反馈的情况下，能从零写出小型游戏网络，并击败用PPO训练 1 亿步的网络；在被要求不用梯度让Qwen3.5-0.8B更擅长数学时，Astra定位到导致推理循环的权重问题，原生编辑 0.016% 的权重，使MATH-500从 7.9% 升至 48.1%，IFEval提升 3 倍。这些都是论文作者的说法。
Willison把论文涉及的两种能力分开：一种是模型不借助工具、不执行代码，仅从原始权重推断行为；另一种是模型借助代码去更新和改进其他模型。spaCy作者Matthew Honnibal批评论文将两者混为一谈，称其有误导性；Sean Goedecke拆解Qwen3.5-0.8B的案例后认为，其步骤与人类机器学习研究者会采取的步骤相同。
Willison表示自己只关注前一个问题，即LLM能否从权重理解模型行为。他写道，这篇论文值得关注，但围绕它的一些更广泛评论并不成立；他并不准备宣布“源代码时代结束”、未来将由机器以难以理解的方式编辑自身权重。