太初 大模型算法 一面

1实习介绍 2你觉得你实习做的最有挑战的事情是什么3你觉得你成长了什么4有没有获得什么收获，或者说觉得和平常开发有什么不一样的地方5这个提升了xx效率，有没有具体的什么评测工具6我看你说写了响应时间降低多少，这个是具体怎么排查然后解决的7es这块能不能说下他为什么检索起来很快公8能说下你是怎么排查问题的吗，然后解决这些问题的9你这个重构为宽表相比于正常的单表查询效率上有什么变化吗10那你说下你做的这两个项目的动机是什么，为什么选这两个项目11那你简单说下你这个rag项目吧12大模型在里面是担任什么角色13平常用过什么大模型14有用过其他的吗15用大模型一般去解决什么问题16手撕:排序链表17最近在学什么18反问

一、项目深挖1. 训练时显存占用高的瓶颈在哪？做了哪些显存优化？2. 如果重新做一次，你会在哪些环节提前做 ablation？二、 延伸八股：1. AdamW 与 Adam 在权重衰减上的实现差异？2. 梯度累积等价于 batch 扩大的严格条件是什么？3. PPO 的核心目标函数是什么？每个符号的物理意义？4. 相比 PPO，GRPO 的“Group”体现在哪一步？5. KL 散度在 RLHF 阶段出现的位置、作用以及过大/过小分别会导致什么现象？6. Multi-Agent 场景里，Reflection 模块与 Memory 模块的输入输出各自是什么？它们如何解耦又能互相增强？7. 简述 MRR 的计算流程。8.同样是排序指标，NDCG 与 MRR 的评估视角差异在哪？三、手撕环节原地快速排序

1.  注意力机制：请简述 MHA、MQA 和 GQA 三种注意力机制的核心区别。2.  模型架构：Dense 模型与 MoE 模型有何本质区别？3.  路由机制：MoE 模型中，路由（Routing）机制具体是如何工作的？4.  LoRA 微调：请阐述 LoRA 的原理，以及其中 A、B 矩阵的初始化方式和秩（Rank）的设置考量。5.  强化学习：请对比 DPO、PPO 和 GRPO 的原理与区别，并写出 DPO 的 Loss 函数公式。6.  推理加速：vLLM 中使用了哪些关键技术（如 PagedAttention、KV Cache）来优化推理？7.  并行框架：你对 DeepSpeed 这一加速推理与训练框架有多少了解？8.  BM25 算法：请讲解 BM25 算法的计算原理。9.  负载均衡：MoE 模型中专家（Expert）的负载不均衡问题该如何解决？10.  损失函数：能否通过修改损失函数的方式来缓解 MoE 的负载均衡问题？11.  数据分布：SFT 微调数据与预训练数据分布差异较大时，该如何处理？12. Scaling Law：SFT 微调的数据集是越大越好吗？是否存在 Scaling Law 现象？13. 训练稳定性：强化学习（RL）为何存在训练不稳定的问题？既然不稳定为何业界仍广泛使用？14. 三数之和：LeetCode 15. 三数之和。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。