大模型面试 | 大模型评估全攻略

鼠鼠我想春招试一试字节跳动的技术支持工程师（飞书API，大模型技术支持之类的岗位），有没有uu有面试经验的？想知道这些岗位要求高不高啊，面试主要问什么？需要手撕算法题吗（鼠鼠我基本没怎么练过算法，只知道一些最基本的）？感觉牛客上的面经有点少，跪求各位牛油解答

1.  注意力机制：请简述 MHA、MQA 和 GQA 三种注意力机制的核心区别。2.  模型架构：Dense 模型与 MoE 模型有何本质区别？3.  路由机制：MoE 模型中，路由（Routing）机制具体是如何工作的？4.  LoRA 微调：请阐述 LoRA 的原理，以及其中 A、B 矩阵的初始化方式和秩（Rank）的设置考量。5.  强化学习：请对比 DPO、PPO 和 GRPO 的原理与区别，并写出 DPO 的 Loss 函数公式。6.  推理加速：vLLM 中使用了哪些关键技术（如 PagedAttention、KV Cache）来优化推理？7.  并行框架：你对 DeepSpeed 这一加速推理与训练框架有多少了解？8.  BM25 算法：请讲解 BM25 算法的计算原理。9.  负载均衡：MoE 模型中专家（Expert）的负载不均衡问题该如何解决？10.  损失函数：能否通过修改损失函数的方式来缓解 MoE 的负载均衡问题？11.  数据分布：SFT 微调数据与预训练数据分布差异较大时，该如何处理？12. Scaling Law：SFT 微调的数据集是越大越好吗？是否存在 Scaling Law 现象？13. 训练稳定性：强化学习（RL）为何存在训练不稳定的问题？既然不稳定为何业界仍广泛使用？14. 三数之和：LeetCode 15. 三数之和。📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

1.八股：大模型框架了解哪些，介绍下vllm原理2.八股：常用的LLM，讲解DeepSeek R1的训练流程和基本原理。3.八股：讲讲MOE架构和Dense架构差异，在训练和推理方面4.项目：介绍实习项目，项目中有没有做微调？5.项目：DPO，PPO和GRPO的区别6.项目：为什么PPO要用value baseline和GAE？它们如何让训练更稳定？7.项目：为什么GRPO在训练MOE时会出问题？原因是啥，怎么改进策略8.项目：GRPO的KL散度是什么？KL散度中超参数如何设计？9.项目：阐述大模型的幻觉现象及抑制方法。10.代码题：lc300 最长递增子序列

  😭0实习选手咋办呀！