只需用自然语言描述一次,就能把模糊任务‘编译’成轻量神经程序,在MacBook上以1/50内存跑出32B大模型性能!
alphaXiv分享了一篇论文,提出了一种名为“Program-as-Weights”(PAW)的全新编程范式。它将自然语言规格编译成小型神经程序(pseudo-program + LoRA适配器),然后在一个冻结的小型解释器(interpreter,如0.6B Qwen3)上高效运行。在FuzzyBench等模糊任务上,这种方法实现了与直接提示Qwen3-32B相当的高性能,却只需约1/50的推理内存,并在MacBook M3上达到约30 tokens/s的速度。核心思路是把基础模型从“每次输入都求解问题”转变为“一次性构建可复用工具”。
传统上,我们面对“模糊函数”(fuzzy functions)——比如日志紧急度分类、 malformed JSON修复、搜索意图排序、个人信息脱敏等——要么硬写规则(难以覆盖所有边缘情况),要么每次都调用大模型API(成本高、延迟大、隐私风险高)。PAW提供了一条中间道路:一次编译、终身本地高效执行。
从技术上看,PAW巧妙结合了离散的伪程序结构(提供骨架)和连续的LoRA权重(注入模糊知识),让一个小小的冻结解释器就能“热插拔”不同适配器完成多样任务。这种设计极大降低了部署门槛:开发者不再需要为每个模糊需求维护海量prompt或微调整个大模型,只需让4B编译器(基于FuzzyBench 10M示例数据集训练)生成一次紧凑 artifact,后续推理就能完全离线、本地、低功耗运行。
