在讨论蒸馏这件事之前，先看看 Lambert 的话为什么值得听。
其次，大模型的记忆能力有缺陷：大模型在训练时“记住”了大量知识，但训练完成后并不会在使用中持续学习、“记住“新知识；每次推理时，它只能依赖有限长度的上下文窗口来“记住”当前任务的信息（不同模型有不同上限，超过窗口的内容就会被遗忘），而无法像人一样自然地维持稳定、长期的个体记忆。但在真实业务中，我们需要机器智能有强大的记忆能力，比如一个AI老师，需要持续记住学生的学习历史、薄弱环节和偏好，才能在后续的讲解与练习中真正做到“因人施教”。
，详情可参考快连下载安装
从这个角度看，Lemon AI瞄准的不只是一个产品，而是AI落地的底层基础设施，安全层面用本地化部署建立信任，成本层面用1-2美元的任务定价拉低门槛，效率层面则靠经验库的自我进化持续优化。。业内人士推荐91视频作为进阶阅读
https://feedx.net