之前有一段小厂实习，不过实习了三周后就跑路了，自以为把产出包装的还可以，但是面试一被拷打，就全部露馅。现在在想之前实习 三周跑路是否是一个正确选择。上周开始大面积投大厂，到现在也就三家约面，一面全挂。我本以为借助短暂的外力将实习和项目吃的差不多了，但是面试了才知道根本经不住拷打。想在寒假之前找一段大厂的日常实习，还有机会吗找不到实习只能裸奔暑期了

1、实习介绍，随后围绕项目问八股2、对qwen-coder大模型的了解3、Lora训练的原理，调过哪些参数，其含义，怎么设置的4、训练过程中调过哪些参数，怎么设置的，loss曲线在训练过程中如果突然上升，一定是坏的吗？如何区分是训练参数不对和学到新东西导致的loss上升？5、大模型训练的流程有哪些？文本是如何tokens化的？tokenizer的原理是什么？6、RAG的流程？在打比赛时，有哪些提高的点？RAG中召回算法的原理？为什么还需要重排？如何提高RAG召回的效果，如何对向量化模型进行微调？7、代码题1：a = [1],b=[a,a],b[0]=[0],随后b[1]=？如果不想改a的值怎么做？8、代码题2：给一个数组，求划分方式，使得左半部分的最大值-右半部分的最大值 最大。

个人情况： 985cs本硕，代码能力一般，可卷可躺1.互联网某厂大模型应用，总包50+，边缘部门，实习转正，组内氛围还行2.家乡二线城市农行省分科技，目前不清楚待遇，应该比较轻松3.某硬件外企，总包可能能有40，组内做infra，据说5点下班不加班

1.八股：一个7B参数的大语言模型，在训练和推理时分别需要多少显存？影响显存占用的关键因素有哪些？2.八股：SFT 阶段，7B 和 70B 模型的学习率设置通常有何不同？背后的原理是什么？3.项目：DPO 训练过程中，你会重点关注哪些评估指标？为什么？4.项目：训练一个基于 pair 对的 reward 模型，loss 函数怎么写？如果是非 pair 形式（只标注最优 response），loss 又该如何设计？5.项目：DPO数据构造中常出现正负样本不均衡问题，你有哪些解决方案？6.项目：用DPO缓解幻觉时，如果反而引入了新的幻觉，可能是什么原因？7.项目：DPO中的beta参数代表什么？过大或过小会带来什么影响？8.项目：你在微调时是否观察过不同层的梯度差异？9.项目：不同参数高效微调方法（如 LoRA vs Adapter）在你的任务上效果对比如何？