1.大模型灾难性遗忘是什么？怎么解决的？2. 数据蒸馏的方法3.项目中怎么做的多任务学习，有用到经验回放吗4.deepspeed三个阶段5.计算attention时候为什么要除以根号dk，还有哪些scale处理？6.讲DPO、PPO、RLHF什么7.什么是旋转位置编码，解决了什么问题，为什么8.讲lora微调，如果是全量参数sft需要多长时间？9.实践过程中有什么值得注意的点10.了解deepseek - R1吗，介绍一下11. QWEN2的架构和训练方式

1.实习介绍和讲论文讲实习，多模态大模型是否有接触?落地案例?2.介绍一下 Qwen布的这几版模型，都做了哪些贡献，包括数据、模型和训练3.DeepSeek 有了解吗， DeepSeek 用到的 MLA 注意力是怎么做的？它可以直接用 RoPE 吗？为什么不能，它做了哪些优化4.了解大模型的解码策略吗，简要说一说吧5.现有一个能力较弱的多模态模型和一个能力较强的文本模型（如 DeepSeek-R1），如何结合两者的能力来回答与多模态相关的问题？6.代码：199．二叉树的右视图7.反问环节

1.实习介绍2.项目拷问3.你知道哪一些特征融合的方式?4.为什么采用余弦相似度来度量向量之间的距离?5.了解哪些相似向量的检索方式?6.项目的后续优化方案?7.解释-下 scaling law?8.介绍一下当前在看的一篇论文?9.介绍这个模型的结构，以及这篇论文解决了什么问题?10.介绍一下AUC的含义，以及代码的实现，分析代码时间复杂度?11.在代码界面写一下第一个项目所采用的损失函数?12.写一下交叉熵损失函数?13.Logistic regression 参数可以采用全0初始化吗?为什么?14.两个矩阵相乘，加法次数与乘法次数?15.手撕代码:删除多余空格:输入list[char]，输出list[char]。需要删除首尾空格，每个单词之间的多个空格保留一个。原地删除，空间复杂度为O(1)。

1.项目介绍2.微调数据构造3.案例库的embedding是怎么构建的4.视频抽帧怎么抽5.Sft是怎么进行监督训练的6.为什么lora可以训练少量参数来实现功能7.Ppo与grpo区别8.Dpo与ppo区别9.On policy与off policy10.Ppo的优势函数是怎么计算的11.PPo是怎么训练的12.讲一下豆包模型的架构，千问的模型架构13.手撕三数之和

1.介绍项目，围绕提问2.为什么要进行多头注意力？3.排序模型关注的指标是什么？4.常用的对比学习有哪些方法？怎么构造数据的？5.用bert做分类任务时，输出是怎么处理的？6.在训练模型时，如果遇到loss不稳定，如何去优化？7.讲解Transformer 的结构常用什么训练框架？8.讲解  LoRA 原理。9.常用的不同模态数据在embedding层面对齐的方法有哪些？10.多模态模型怎么训练？11.介绍一下 CLIP 模型。12.用bert做下游任务时，输入有哪些embedding？13.RAG检索召回的片段中，有一些质量差的，如果排除掉？14.注意力计算的计算复杂度是多少？15.C++中，指针和智能指针的区别？16.code：二叉树的层序遍历

1、介绍自己的中厂实习2、强化学习中onpolicy和offpolicy的区别什么?grpo是onpolicy的吗?如何实现真正的onpolicy?3、解释一下为什么GPT可以并行计算，而rnn不能。4、qwen系列纯文本模型每一代的改进点是什么?5、在计算attentionscore时如何对padding做mask操作?6、valuemodel和rewardmodel的区别?7、moe架构是什么?ds如何平衡每个专家学到的token数量?8、解释-下ds的MLA和MTPQ9、prompt工程，你在实践中有什么啲蓿过rick?什么时候给fewshot?什么时候逻辑引导?10、市面上的大模型分别有什么优势，如何选择合适的大模型?11、多维旋转位置编码是如何改进的?12、mcp°和fc是什么，在你的项目中你是如何使用这两个功能的?13、现场手撕接雨水。

1.针对简历上的实习提问，各种场景题2.反思机制是什么做的?为什么要用反思?3.介绍一下 single-agent、multi-agent 的i计方案有哪些?4.介绍deepseekv3，mla、moe、mtp。5.lm 服务并发太高了怎么办?6.Linux 网络性能调优的方式。7.手撕-实现shuffle函数,8.智能客服、Agent或者强化学习。

项目 拷打半小时八股1. CPT和Pretrain的差别，IFT和SFT的差别2. RLHF、DPO有训过吗，讲下原理3. 介绍GRPO的优化4. 讲下Transformer架构5. Attention公式，除根号d有什么作用，缓解梯度爆炸还是消失6. Norm为什么用LN层而不是BN层7. RMSNorm，PreNorm和PostNorm区别8. 有做过模型量化部署的工作吗代码买卖股票I用dp写，买卖股票II用dp写反问1. 可选base地

实习部分： 1.介绍一下你的遗传算法具体是怎么做的？2.有没有出现不同时间参数效果不一致的情况？3.你负责哪一块工作？新闻推荐项目：1.介绍一下ItemCF的主要思想2.ItemCF有哪些改进思路3.介绍一下Word2Vec怎么做的4.为什么选择CBOW和skip-gram有什么区别吗，你为什么选择skip-gram5.DIN特征具体是怎么做的6. MMoE具体是怎么做的，有考虑过预测多目标互相干扰的问题吗？7.介绍一个其它的工业界用的多目标预测模型8.介绍一下工业界常用的精排和召回模型9.大模型与推荐结合的最新成果介绍一下？10. XGBoost还有GBDT的相关的介绍一下代码手撕：1.最长有效括号（用了栈，但是要求改进不用栈，但我不会2.在排序数组中查找元素的第一个和最后一个位置

1.详细介绍序列建模的工作, 收益来源在哪2.序列的 sideinfo 有哪些, 怎么入图3.介绍下广告系统的全链路4.A/B 实验指标为什么不是平台收入5.搜索场景和推荐场景的不同点6.是否了解 RankMixer, 介绍做法和收益点7.介绍序列建模的发展历程8.多模态特征如何利用到序列建模中9.试过 Next Token Prediction 吗, NIP loss 的优势codingleetcode 50. Pow(x, n)反问

二面： 1.CV 和 NLP 的区别与联系2.在Transformer 框架下，CV、NLP、语音是否可能“大一统”3.大模型训练：数据清洗、处理、配比的方法4.大模型训练：如何更容易提升模型性能5.什么是大模型的幻觉，如何缓解6.为什么会有复读问题，业内有哪些解决办法7.工具与 Agent：大模型工具调用的实现方式8.工具与 Agent：Agent 的组成部分及实现方法9.开放题：你在大模型训练中遇到过的困难，如何解决？10.代码题：实现一个Tokenizer（只能用 PyTorch 基础语法）

1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？

主要针对生成式这个项目做提问1.了解了下业务场景 问站内和外投和搜索广告链路场景和上的区别2.现在组里的召回怎么做的3.模型训练的时候的label 样本组织形式 联合优化方法 为什么要联合优化 和one rec有什么区别4.模型是否上线5.怎么看 one rec代码让我写了 self attention，考了这方面八股问题:1.为什么要除根号下 dk，能不能不是根号下ak是别的?(从数学原理上答)2.multi head attention怎么做的

我的白月光是华为2012实验室。说实话，我知道自己学校背景一般，简历也不算出彩，大概率是陪跑。但正是因为把它设为“白月光”，整个秋招我都不敢松懈。因为它对算法要求高，我提前半年就开始刷题，LeetCode刷了500+。因为它看重项目，我把实验室项目重构了一遍，深度思考每一个技术选型。因为它面试可能问底层，我把OS和计网课本都快翻烂了。最后，我确实倒在了主管面。但因为我为它准备的这一切，我顺利拿到了另外两家大厂的offer。所以，白月光的意义是什么？它就是一个灯塔。即使你最终无法抵达，但它指引你走完了全程，让你成为了更好的自己。 感谢华为，这份意难平，我认了。