WorkBuddy 5.5.4 更新后多了个本地大模型,我拿数证杯的服务器题测了一把。官方要求 16G 显存,我这只有 12G,但 64G 内存撑着,硬上!
一开始啥规则都不设,让离线模型自己跑。结果光 SSH 连服务器就卡了四十多分钟——引号转义老出错,命令反复失败。最后 18 道题跑了整整两个多小时才勉强跑完。
发现问题不能干耗着。我先切到在线大模型,花八分钟把环境一次性配好,又让它把优化方案写下来、直接沉淀成专属技能。再切回离线模型重跑,同样的活儿,7 分钟搞定。
说白了,本地大模型不是拿来裸奔的。先拿在线模型把坑填平、工具链搭好,再让离线模型去干活,这才是正解。