1、项目介绍2、介绍字节实习序列建模为什么考虑增加某个序列模型复杂化介绍简化结构怎么考虑的特征接入里某类特征集体含义gmv预估优化怎么做的，为什么不考虑单独对 gmv建模3、手撕问我最近刷题多吗，想要什么类型的题目(简单中等困难)，我说中等数组中第k个最大元素，秒撕链表中倒数第n个节点，也秒撕4、反问

1.项目介绍，问实习和论文2.目前大模型模型结构都有哪些3.什么情况用Bert模型，什么情况用LLaMA、ChatGLM类大模型?4.prefix LM 和 causal LM、encoder-decoder 区别及各自有什么优缺点5.刚刚提到 MLA ，那 MLA 是怎么对 KV Cache 做优化的6.说一说大模型后训练的流程7.Qwen是怎么做长度外推的8.在 PPO 中，如何防止模型在微调数据集以外的问题上泛化能力下降？如何防止模型收敛到单一类型的高奖励回答9.代码：25.K个一组翻转链表

1.实习介绍2.展开讲一下在百度实习的工作3.实习工作具体是如何做的？4.具体探索过程是怎样的？5.想法是如何逐步优化的？6.介绍一下你了解的其他基于 MoE 的模型架构7.如果基于 MoE 的模型在训练时负载均衡不好怎么办？8.讲一下负载均衡的概念9.如何解决负载均衡问题？10.讲一下 DPO、PPO、GRPO 的区别11.如果在训练 DPO 的过程中，正例和负例的 loss 都在下降，该如何解决？12.讲一下 RAG 项目的亮点13.如果召回的答案不是想要的，该怎么处理？14.算法题：求根节点到叶节点数字之和（LeetCode 129，非 Hot100）

讲一下实习里做了些什么，讲一下架构以及发展的流程大模型该如何选型怎么取舍，有了解过agent的开发嘛算法题：给一个数组，取出其中前k小个数（用的最大堆写的，刚开始还忘了PriorityQueue怎么拼的，在面试官提醒下改回来了）聊的挺开心的，许愿ochr微信通知已过，唉，这美团怎么这么好啊