0实习0论文0八股，项目只有课程大作业。全靠ACM竞赛奖项，已经拿到了京东和字节的算法岗offer了

1.八股：NLP和LLM最大的区别是什么？两者有何共同和不同之处？2.八股：激活函数有了解吗，你知道哪些LLM常用的激活函数？为什么选用它？3.八股：开源框架了解过哪些？Qwen，Deepseek的论文是否有研读过，说一下其中的创新点主要体现在哪？4.项目：介绍微调负责的工作，大模型微调最重要的是什么？5.项目：SFT+DPO训练怎么组织这部分数据的？是自己构造还是用公开数据？6.项目：看你做过LoRA微调，那你是怎么选rank值？合并adapter权重的时候有没有遇到梯度爆炸？7.项目：说下LoRA的原理，LoRA是不是只能在Linear层插？为什么不能插在LayerNorm之后？这会对训练稳定性造成什么影响8.项目：刚才提到用过QLoRA，能具体说说QLoRA是怎么降低资源成本吗？9.项目：llm推理效率，如果真的部署到在线系统里，这个效率的问题怎么解决呢10.项目：有没有尝试过模型裁剪？比如 low-rank adaptor、LoRA 融合，或者用Mamba替换部分token path？11.代码题：实现Casual mask的MHA，说下计算复杂度

1，介绍RAG流程；介绍对编码模型的了解、原理、优缺点；如何评估编码模型的能力2，RAG有哪些分类；多模态RAG有哪些实现框架；伪多模态RAG和多模态RAG分别怎么实现，有什么区别；CLIP可以用于哪一类多模态RAG，为什么3，RAG怎么评估，RAG评估体系中最重要的是什么4，传统RAG有什么痛点；介绍GraphRAG，GraphRAG的难点是什么；GraphRAG如何应对增量场景5，介绍微调负责的工作；大模型微调最重要的是什么6，后训练有哪些方式；微调有哪些方式，分别是怎么做的；LoRA原理及参数量7，介绍DPO；DPO与PPO的区别8，介绍一些Agent的实现框架；这些框架有什么区别；LangGraph适用于什么场景；LangGraph构建Agent的方式有哪几种9，场景题：客户输入一个软件或网页界面截图，如何通过RAG的方式帮助用户了解界面的每一个组件的作用（？？？说实话没太听懂），输入输出自己定义；相似的组件如图片框和视频框如何区分10，算法题：2n+1个数，两两成对，找出单独的那个数11，反问

小厂1：大模型算法偏agent应用（12.11）说什么和某六小龙有战略合作，所以面试官是某六小龙的主要是问简历项目1.训练数据，有没有做数据处理与增强的工作2.词表怎么训练的3.量化的结果是什么4.在什么机器上训练，时间，数据量大小5.rag中怎么做的pdf解析，对pdf里面的图片，表格数据怎么处理的，怎么编码的，检索，召回的时候都做了哪些操作，混合检索的时候的权重怎么处理的，有没有消融实现对比6为什么要sft，sft的数据有多少，sft后的效果有没有对比7.sft与rag对比8.grpo和dpo对比9.agent方面有哪些了解反问，目前在做什么业务下午面完晚上约二面某初创公司：大模型算法基座模型（12.12）1.你导师是谁（绷不住了）2.有没有考虑过词表的大小对模型表现的影响3.最影响模型效果的是哪个部分4.文本编码器用的什么，有没有尝试过更新的方法5.有没有对模块这部分设计消融实验评估对性能的影响6讲一下dpo，ppo，grpo的区别7.介绍了一下他们公司主要做的一个东西，问我对这方面有什么了解8.一个力扣easy反问，如果我来会加入到哪个部分