小米算法面经。

一面 1.sft数据长什么样，困难case是什么样？2.有没有考虑做数据增广，有哪些数据增广的方式？3.query不规范，导致召回难度大，如何解决？4.如果原始训练数据当中存在大量噪声，如何去除这些噪声对模型的影响？5.手撕：爬楼梯二面：1.RAG系统的架构，每一个模块的作用，文本截断的长度是多少？2.除了向量召回和关键词召回，还有哪些召回方式，了不了解全文召回，如何做的？3.向量召回，关键词召回，实体召回等不同召回链路召回的结果如何合并，哪一个优先级更高？4.query改写之后改写成什么形式去召回？5.DPO的原理，损失函数如何计算？6.GRPO的原理，损失函数如何计算？7.在linux系统当中查看端口是否被占用的命令行是什么？8.让进程在后台运行的命令行是什么？9.如何快速对一个list去重，如果list的长度非常长（且不改变数据格式）10.手撕：最长回文子串

📍面试公司：拼多多🕐面试时间：25.11.8💻面试岗位：大模型算法工程师❓面试问题：1. 自我介绍2. 手撕：找到01矩阵中的矩形（顶点为1），问复杂度3. 介绍科研，问了两个科研相关问题4. 问大模型transformer结构、问PPO和GRPO、问为什么除sqrt(d_k)5. 反问：职责是后训练，服务用户的推荐功能。工作时间11/11/6，算法base在上海。🙌面试感想：我在敲代码的时候面试官也在敲😂

第一次： 常见的八股文拷打和实习拷打他记录面经，说基础不错，但经验欠缺也没做算法题第二次：10月30日，面试官迟到，找位子，面试，恰逢作业帮11周年庆，面试官坦言，自己注意力不集中。狠狠拷打实习内容，我也讲了。然后他有可能想要深度理解我所做的工作，所以他问了很深的问题。也没做算法题收获：就是表达上注意层次，和铺垫，埋钩子吸引面试官注意。感觉作业帮的面试官和pdd一样，面相中年臃肿，一看就是leader级别

1．项目介绍2．讲讲你对 transformer 的了解3．有哪些常用的解码策略， topp 和 topk 的具体细节，以及实现上的差别4. 意图分流的 agent 怎么做微调的，用了多少数据5.如何做 embedding 微调的，如何构造正负样例，训练的 loss 是什么6.RAG有哪些可优化的地方7．你的 RAG 项目中用到了 agent 吗，一般 agent 会用在RAG 链路中的哪些部分8．做 sft 时是怎么做数据配比的，参数具体怎么设置的9.RLHF的流程，有没有训过 PPO10. deepseed 的原理，zero1,2,3怎么做的11.了解过排序模型吗，讲几个经典的排序模型吧12．说一下 vllm 部署8*7B的 MOE 模型每秒大概能推多少token13．对比学习了解吗，讲一下（比较突然，不知道为啥要问）14.code :实现rand5到rand7