许愿

前言 你问大模型一句：“今天天气如何？”，它可能给你查一下本地今天的天气。 你再问它：“那北京的呢？”，他开始科普起了北京，完全忘了上文中的对话，推算出我们是需要他接着回答北京的天气。 以上是发生在早期各家 AI 助手中出现的问题，丢失上下文记忆。随着技术的发展，模型越来越“大”，这个问题出现的时间点（对话轮数）也越来越靠后。那么问题来了，模型是如何记住上下文的？我们该如何优化，在有限上下文中做更多事情？ 大模型根本不记 下面是我在开发AI应用的一个简单的解析图  是的，没错。我们每次的对话，包括之前的内容，都要一起发送给大模型。大模型本身不会去存储这些内容。既然不用存储，那如果不限制时间，岂...

#实习#

有一次，mt对我说过一句话：“先把事情做成，再去追求完美。”这句话看起来很普通，却在很长一段时间里改变了我做事的方式。以前遇到问题，我总想着一步到位，方案要完整、代码要优雅、结果要足够好才肯开始。结果往往是准备得越久，越容易拖延，事情反而迟迟没有进展。后来我慢慢发现，真正推动事情向前的，不是一开始就做到完美，而是先迈出那一步。哪怕是一个不够漂亮的实现、不够成熟的想法，只要它真实地落地了，就能暴露问题、积累经验，也更容易持续迭代。这句话让我学会降低“开始”的门槛，把精力放在执行和反馈上。很多看似复杂的事情，正是在不断修正中逐渐变好的。与其被完美困住，不如先行动起来。