小型本地模型也能完成有价值的工作，与某些人的看法不同

小型本地模型也能完成有价值的工作，与某些人的看法不同。 想发挥它们的最佳能力，需要有意识地设计任务。 它们往往比更强的模型需要更多指导，尤其是在任务涉及许多相互依赖的推理步骤，或需要准确回忆事实时。 我的做法是：让更强的云端模型，或更大的本地模型，负责规划、拆解可管理的任务，并审查结果。 把边界清晰的工作交给小型本地模型，比如修改代码、执行明确任务、从给定文档中提取信息、运行测试并报告结果。要告诉负责管理的 AI，按这种方式规划。 给它相关上下文、明确约束，以及检查是否成功的方法。 Localmaxxer 的本领，就是学会判断每个模型能可靠承担多大责任。