1.实习介绍2.介绍一下两个项目的来源？3.项目是完全自己独立完成还是团队合作？4.RAG 项目在开发过程中遇到的难点是什么？5.多路召回策略：各策略召回文档的好坏如何评估？6.是否有独立且成熟的评价体系衡量召回质量？7.性能指标提升如何对比？8.8.7% 的提升对应的 baseline 是什么？9.vLLM 部署：如何实现 2k tokens/s 的吞吐？10.并发与压力测试（batch/并发规模）如何设置的？11.讲一下 DPO / PPO / GRPO 的原理与区别12.对 GRPO 的后续优化算法是否了解？（进一步的改进方向）13.在百度实习期间遇到的最难问题是什么？14.MCP 协议相较于 Function Call 的优势是什么？15.算法题：买卖股票的最佳时机先讲一下思路、分析复杂度、最后手撕写出来之后 运行通过

1.项目介绍2.介绍实习工作3.几个人在做这项工作4.介绍一下自己负责的工作内容5.算法题6.没出leetcode题目7.出了一道AI算法题（写出了大概思路）8.面试官介绍组里目前重点在做什么工作9.聊过去之后主要会让负责什么工作10.组里计算资源充足 不需要担心

1.项目拷打为主2.项目中的OCR怎么做的，为什么用大模型做3.后训练的数据规模有多少？数据集是自己构建的吗4.数据清洗采用了什么策略5.OCR如何处理复杂表格6.微调前后准确率对比7.Badcase有哪些，占比怎么样8.为什么用GRPO不用DPO9.什么任务适合DPO10.模型微调用的是全参微调还是lora微调，为什么这么选11.Lora微调的阿尔法和rank是怎么选择的，对模型的影响分别是怎么样的12.GRPO奖励怎么设计的13.是否做过消融实验14.讲讲react思想15.讲讲agent中的反思模块逻辑16.Agent中数据是怎么交互的

1.实习介绍2.论文工作介绍3.为什么构建这个benchmark4.构建数据集的时候遇到哪些问题，怎么解决5.选择这个微调模型的原因6.mplug的框架7.视觉编码器用的什么8.线性投影层具体情况9.qwen2的结构10.transformer的计算11.了不了解其他的transformer或者attention12.用了多少卡13.怎么做的分布式训练14.zero3不适合训练使用的原因15.介绍论文的多阶段CoT微调16.lora的原理17.lora的初始化18.矩阵B 为什么用0初始化19.手撕：一个字符串中出现次数最多的字符以及次数20.反问的时候还问了强化学习的原理

1. 项目介绍2. 介绍实习项目，整体的模型框架3. 为什么你设计的模块可以解决负迁移？线上耗时增加了多少4. 介绍你们的特征交叉怎么做的5. 序列建模怎么做的6. 损失函数用的是什么？7. 有接触过线上吗，怎么推全？8. 解释auc，gauc9. 还了解什么排序模型10. transformer介绍一下，位置编码怎么做的，加速方式？11. 介绍论文背景，遇到的挑战，数据集是自己的吗，预训练做了什么，做了哪些实验12. 手撕最大子数组和

1、项目介绍2、字节实习序列建模为什么增加某序列，是用户兴趣捕捉还是别的，怎么判断这两个哪部分带来的收益大rankmixer介绍，为什么相比于mlp更适合scaling upgmv优化里原来高价低估主要原因是什么，最终上线是哪个简化结构怎么考虑的实习过程中遇到的困难和解决方法3、美团实习chunk切块介绍gpt相较于bert-large优点(这个偏大模型了，没怎么了解)4、BN主要作用5、手撕类似子集那个题目，回溯树型打家劫舍6、反问

1.项目介绍，问实习和论文2.目前大模型模型结构都有哪些3.什么情况用Bert模型，什么情况用LLaMA、ChatGLM类大模型?4.prefix LM 和 causal LM、encoder-decoder 区别及各自有什么优缺点5.刚刚提到 MLA ，那 MLA 是怎么对 KV Cache 做优化的6.说一说大模型后训练的流程7.Qwen是怎么做长度外推的8.在 PPO 中，如何防止模型在微调数据集以外的问题上泛化能力下降？如何防止模型收敛到单一类型的高奖励回答9.代码：25.K个一组翻转链表

1.介绍自己的项目2.BLEU和ROUGE3.self-attention求内积时为啥除以根号d4.LLM的评估5.介绍下simCSE6.解决tokens不够的问题应该怎么办7.详细介绍下deepspeed（三个stage结合参数回答）8.gpt和llama的区别（模型结构上的）9.PEFT的方式，LORA论文讲一下，对比p-tuning10.LLM训练的时候为什么warmup11.对比学习中的batch size是大一些好还是小一些好13.了解最新技术一般怎么通过什么渠道14.代码题：lc347 前 K 个高频元素

有人了解北京卡斯柯的实际工作强度吗？以及工作氛围怎么样呢？

1、项目介绍2、介绍字节实习序列建模某序列详细介绍以及为什么考虑加这个序列(每次都会被问)，某模型优点gmv优化怎么做的，介绍wce损失函数，怎么保证无偏的rankmixer介绍，进一步介绍优化思路，还有一些细节简化结构介绍，这里 DIN去掉不会有损吗3、手撕最小的k个数，又遇到这个题了4、反问我问了业务，面试官接着问了base地偏好

1.八股：请介绍一下Transformer的核心组件及其作用2.八股：介绍LLM Decoder-Only架构3.八股：你对SFT的理解是什么？与预训练相比有什么差异？4.项目：SFT冷启动时数据集构造需要注意哪些因素？为什么要做数据清洗与均衡采样？5.项目：介绍一下RAG的整体流程。在Agent落地场景中，RAG会遇到哪些延迟和正确率问题？你怎么优化召回链路？6.项目：在你的问答Agent项目中，数据集构造的自动化流程是怎么实现的？7.项目：你是如何利用多Agent协同来提高推理正确率的？调度策略如何实现？8.项目：你提到用DeepSpeed做SFT训练，请讲一下DeepSpeed ZeRO Stage 1-3的区别，以及什么时候用FSDP会更好？9.项目：你做Prompt优化时，是如何判断优化后的Prompt在Agent推理链路中性能提升的？用什么指标来衡量？10.项目：在多Agent系统中，如何保证异步任务执行的稳定性和结果一致性？11.项目：如果Agent推理API需要低延迟响应，你会从哪些方面做系统级优化？12.代码题：lc34 在排序数组中查找元素的第一个和最后一个位置

1.项目介绍2.挨个介绍论文项目，基本上每个都讲了一遍。3.第一个论文问了，你觉得这个工作后续有没有什么可以改进和拓展的点?这是关于单轮检索的benchmark，我说可以拓展为多轮后续和agent结合在一起。4.第二个论文的时候问了其中的对比学习的loss，问这个方法可不可以用dpo去做?有没有r的经验?做过哪些实验?mini batch和global batch分别是什么意思?通过什么指标去看grpo训练是否稳定?调参过程中有什么出现的问题嘛?有什么难调的参数?5.开源项目问了，准备数据的时候如果问题很难模型一个都答不对该怎么做?如果问题很简单，对模型太简单该怎么做?如何得到合理的数据来支撑模型的sft/rl?6.关于团队:主要偏向业务的模型对齐，验收的指标是在benchmark上测，业务优先，发paper为次但是鼓励做论文。

1.展开讲讲实习的项目(追问，问的很细)2.微调大模型的方法有哪些?具体怎么做的?(追问了很久)3.生成式推荐项目 模型的输入是什么?怎么设计的?4.介绍一下CLIP，CLIP使用的损失函数是什么?5.讲讲 InfoNCE LoSS6.生成式推荐项目后续有什么可以改进的地方?

1．项目介绍，问实习和论文2．了解哪些多模态大模型，简要介绍一下吧，了解最新的一些多模态大模型都是怎么做的吗3．在 BLIP -2或者 Qwen - VL 中， Learnable Query 的作用是什么4．了解多模态 RAG 吗5．大模型的后训练是怎么做的，在 VLM 上做后训练有什么区别6．知道 SAM 吗？说说 SAM 是怎么做的7．概率题：一根绳子剪成三段，这三段可以围成三角形的概率是多少8．代码：一个推荐链路的排序