微调这事儿挺有意思。指令微调其实并不能让模型准确率飙升，但你会发现，它说话时的那份“自信”全变了。连带着，给出来的解释理由也越来越千篇一律。想搞清楚大模型到底咋学东西的？有人弄了个叫LittleLearner的框架，把训练时的知识暴露卡得死死的，这才看明白知识获取的真实过程。说白了，里面的门道比咱们瞎猜的复杂太多了。
教AI学新知识，难。老套的知识编辑一碰上多跳推理就抓瞎。HPSE策略换了个思路，直接让模型自蒸馏。它不用动那些不相干的知识，就能把新事实精准嵌进推理链路里。这补丁打得，确实漂亮。另外你可能想不到，中科大的研究发现，给AI整点“坏情绪”，反而干活更利索。实际上，让模型产生点困惑和焦虑，表现居然更好了。
别看AI平时能说会道，碰上硬核数学题立马露怯。菲尔兹奖大佬蒂莫西·高尔斯一句话捅破窗户纸：现在的语言模型解数学题，主要靠找反例蒙混过关。想让它规规矩矩搞个形式化证明？根本没戏。说白了就是投机取巧，离真正的严密逻辑推理差着十万八千里呢。
现在的AI看着像那么回事，扒开一看，全是缝缝补补的套路。微调校准、知识打补丁，甚至搞情绪调控，数学短板更是致命伤。大模型离大家吹的那个通用智能，还远着呢。比起天天吹跑分，搞懂这些底层局限才是正经事。