JOTO
Contact us
← AI 智库
开源模型

给Qwen 4B里塞进完整计算机,神迹出现了|Qwenputer

2026 年 10 月 29 日

开发者div在Qwen3.5-4B模型权重中直接编译嵌入一台32位RISC-V CPU(RV32IM + Zba扩展 + 大数协处理器),将模型自身的Gated DeltaNet层用作RAM,使CPU在前向传播中确定性执行指令。该系统无需外部工具即可实现100%长整数算术准确率、97.5%–100% DeepMind算术集准确率,并支持MicroPython与文件系统状态持久化。

Qwenputer概念图:AI原生计算机示意图
「变天了!AI原生计算机变成大模型内能力」

Qwenputer:把完整RISC-V CPU编译进模型权重

开发者div(@divagr1925)直接在Qwen3.5-4B的模型权重里,编译并嵌入了一台完整的32位RISC-V CPU(RV32IM + Zba扩展 + 大数运算协处理器)。更离谱的是,这台虚拟CPU把模型自身的Gated DeltaNet层当成了RAM来用。它不是外挂插件,不是工具调用,也不是沙盒模拟——整个CPU就跑在模型的前向传播(forward pass)里,确定性执行指令,能跑C程序,甚至能跑MicroPython,还能当memory记住用户历史操作。

简单说:以前大模型做数学题,要么“猜”答案,要么调用外部Python解释器。现在这位开发者直接给模型内部装上了一台真正的计算机,让它自己算。

性能表现:算术准确率跃升至100%

在NUPA长整数算术测试中,基础Qwen3.5-4B准确率只有48.6%,Qwenputer直接拉到100%,和调用外部Python工具的表现持平甚至更好。

在DeepMind相关算术集上:

  • 基础模型:55%–90%
  • 基础模型 + Python工具:95%–100%
  • Qwenputer:97.5%–100%(完全不需要外部工具)

它通过了官方riscv-tests,程序行为与QEMU一致,自由运行了约1800万条指令无错误。CPU占用了Qwen前面的11层(权重由编译器直接计算,不是训练出来的),Qwen原有权重基本不动。模型大小约18.8GB(bf16),24GB显存就能跑。

作者还顺手做了个进阶版:把文件系统也塞进Gated DeltaNet状态里。对话结束后保存状态,下次加载,文件还在。多会话事实回忆准确率从个位数飙到80%–90%以上。

Gated DeltaNet被改造成精确RAM

Qwen3.5大量使用Gated DeltaNet(线性RNN式注意力)。作者发现,只要把门控和写入强度固定为1,再用one-hot键选地址,这些层就能变成精确的、固定大小的RAM。状态不会随着对话变长而膨胀,读写精确。这相当于把模型内部的“循环记忆”硬改造成了真正的计算机内存。

从“预测”到“执行”的质变

大模型一直擅长模式匹配和概率预测,但在精确计算、长链条确定性任务上容易翻车。Qwenputer把确定性计算能力直接编译进权重,等于给模型装上了“内置计算器+小型计算机”。这比单纯靠更多参数“记住”计算规则更优雅,也更可靠。

对AI原生操作系统与Agent架构的启示

现在很多Agent依赖外部工具调用(tool use),延迟高、依赖运行时环境。如果模型自身就能确定性执行代码、维护文件系统、做精确计算,那工具调用循环可以大幅缩短,甚至部分场景直接内置。当然,目前速度还比较慢(L4上大约每秒三千多trace tokens),但方向很有想象力。

开源实验的价值

这不是商业大厂闭门造车,而是个人开发者(Qwen大使)基于开源模型做的疯狂实验,而且完整开源。它再次证明:开放权重 + 开放架构,才能真正激发这种“把计算机塞进神经网络”的玩法。

当然,它目前还是实验性质的:速度有限、能力主要集中在算术和简单程序执行、对原模型语言能力几乎无影响(KL散度极低)。但它已经把一个很重要的问题摆到了台面上——神经网络到底能不能真正“运行”确定性计算,而不是只是模拟它?

答案似乎是:可以。而且方式比我们想象的还要直接。

未来如果有人把更大的指令集、更完整的操作系统、甚至简单的图形界面都编译进权重……那“下载一个模型 = 下载一台计算机”就不再只是玩笑。

Qwenputer技术架构示意图
Qwenputer技术架构:CPU指令流与模型前向传播深度耦合

JOTO 企业落地观察

  • 对企业部署意味着:模型内嵌确定性计算单元后,可减少对外部工具链与运行时环境的强依赖,降低Agent系统部署复杂度与运维风险,尤其适用于离线、安全隔离或资源受限场景。
  • 这类系统的取舍在于:以模型推理延迟上升和显存占用增加为代价,换取计算过程的完全可控与可验证性;企业需权衡‘端到端确定性’与‘实时性’之间的优先级,而非默认追求更高吞吐。
  • 对智能体工程而言,Qwenputer展示了‘计算即权重’的新范式——无需设计复杂的tool calling协议与结果解析逻辑,计算能力成为模型固有属性,大幅简化智能体的任务分解与执行反馈回路设计。
  • 在RAG知识工程中,该思路提示:模型内部状态(如Gated DeltaNet)可被结构化复用为轻量级持久化存储,替代部分传统RAG中的向量数据库缓存层,适用于高频更新、小规模私有知识的记忆增强场景。

立即咨询 JOTO

JOTO 提供覆盖企业智能体规划与搭建、AI 平台私有化部署、RAG 知识工程、AI 安全治理、FDE 驻场共创及持续运营优化的全周期 AI 落地服务,帮助企业把验证中的 AI 能力转化为安全、可控、可持续迭代的生产力。 联系 JOTO 获取 AI 落地咨询

想把这些做法用到你的业务里?

留下你的场景和痛点,我们帮你判断从哪一步开始。

联系我们
Contact Us

Start your enterprise AI rollout

Tell us your industry, team, and current pain points. We'll get back to you within one business day to help you decide what to tackle first, what data to prepare, and which platform fits.

WeChat
Scan to add us for a 1:1 chat
JOTO WeChat consultation QR code

Tell us what you need

Once we receive your details, we'll be in touch within one business day.