1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？

1，介绍RAG流程；介绍对编码模型的了解、原理、优缺点；如何评估编码模型的能力2，RAG有哪些分类；多模态RAG有哪些实现框架；伪多模态RAG和多模态RAG分别怎么实现，有什么区别；CLIP可以用于哪一类多模态RAG，为什么3，RAG怎么评估，RAG评估体系中最重要的是什么4，传统RAG有什么痛点；介绍GraphRAG，GraphRAG的难点是什么；GraphRAG如何应对增量场景5，介绍微调负责的工作；大模型微调最重要的是什么6，后训练有哪些方式；微调有哪些方式，分别是怎么做的；LoRA原理及参数量7，介绍DPO；DPO与PPO的区别8，介绍一些Agent的实现框架；这些框架有什么区别；LangGraph适用于什么场景；LangGraph构建Agent的方式有哪几种9，我这里有个场景，就是客户输入一个软件或网页界面截图，怎么通过RAG的方式帮助用户了解界面的每一个组件的作用，输入输出自己定义；相似的组件如图片框和视频框怎么去区分10，算法题：2n+1个数，两两成对，找出单独的那个数11，反问

1.自注意力机制是什么？计算复杂度怎么算？2.KV-Cache的如何加速推理？3.LoRA的原理是什么？与P-Tuning、Adapter的异同点？LoRA的参数选择对模型性能有何影响？4.介绍下RLHF的基本流程，与DPO的差异是什么？5.分布式训练中的TP、PP、DP分别是什么？6.flash-attention的原理是什么？7.如果视觉模块误判，如何通过语言纠错？8.具体讲讲怎么构建evaluation pipeline的?代码题：lc23.合并 k 个有序链表

1.介绍下self-attention，计算其时间复杂度。2.为什么要用multi-head attention？3.PPO的clip机制？在线强化学习和离线强化学习有什么区别？RLHF是哪一种？4.为什么要用reference model? 为了解决什么问题？5.如何让多个agent协同工作的？举个具体的协同机制例子。6.如果一个agent误判导致策略冲突，如何处理？7.有没有用到类似AutoGen或LangChain的框架？为什么选这个框架？8.你是怎么设计agent的记忆系统？9.长期记忆如何存储？如果历史记录量非常大，怎么优化查询效率？10.有没有做记忆衰退，避免旧数据干扰新任务？11.你们这种模块堆叠的架构是怎么设计视觉问答模块和动作模块的协同逻辑的？12.human feedback是怎么被agent消化吸收的？有没有用rl进行策略更新？13.有没有做过模型压缩？比如在车载端或低端设备上的推理加速？14.如果量化后理解能力下降怎么办？怎么做精度补偿？15.你怎么处理响应速度与推理精度之间的tradeoff？是先召回再精排，还是单次生成？16.如果要做电商agent，你会选择哪些模态的信息作为输入？比如文本评论、图像、视频、购买记录？