1.介绍项目2.数据集具体信息3.每个项目结构是怎么设计的，为什么这么设计，依据指标是什么4.CLIP框架描述（我做的和clip相关）5.clip的文本编码器和图像编码器都是什么，它们分别如何提取特征6.vit的结构7.经典qkv8.手撕代码：最长无重复子序列。要求先快速讲思路后按照思路撕，应该是防ai

最近空下来了写点面经攒下人品...1.项目拷打为主，问的非常细2.针对全流程问了各个环节的badcase，占比如何，重点解决哪部分3.以一个具体的badcase为例，讲讲如何思考、如何解决的4.数据分别怎么样，泛化性如何考虑5.大模型如果出错怎么办，是否有相关的处理机制6.对AIGC本身了解有多少，例如绘图、生成视频7.对于加班这件事怎么看8.你的文章思路是怎么来的9.针对文章背景的这个问题，业内主流思路与你们的差异10.介绍消融实验是怎么做的11.PPO损失函数是什么样的12.GRPO相比于PPO的改进点

1.以项目拷打为主2.项目部署后，推理的流程是怎么样的3.反思验证具体怎么做的4.Reward function怎么设计5.介绍你的agent系统，是怎么工作的6.Agent实际运行时有上下文问题吗7.Memory空间是怎么管理的8.全模态意图识别怎么做的9.你微调怎么做的，用了什么库、工具之类的10.是否部署过模型11.SFT数据集质量怎么评估12.是否了解大规模SFT数据集，例如某些通用的benchmark13.对于人工核验数据有什么心得14.手撕题，写一个softmax函数

1.对Agent框架的理解（langchain、langgraph）2.介绍MCP协议3.你认为要把一件事情做好，Agent应该怎么拆分。Agent拆分的环节数量，对于最终的交付质量有什么关系4.Agent长上下文5.对Agent整体的微调（包含RL）是否了解6.介绍react思路7.Agent的memory空间管理8.对于Agent的理解，9.Agent vs Workflow10.Agent中模型能力重要还是设计框架重要11.对于Agent记忆的理解，当前市面上用的多的方案有哪些12.你对Agent怎么看13.对Muiti-Agent协作的看法14.Agent和模型微调分别适用于什么问题

1.如果想要在某个模型基础上做全参数微调，究竟需要多少显存?2.为什么SFT之后感觉LLM傻了?3.SFT 指令微调数据 如何构建?4.领域模型Continue PreTrain 数据选取?5.领域数据训练后，通用能力往往会有所下降，如何缓解模型遗忘通用能力?6.领域模型Continue PreTrain ，如何 让模型在预训练过程中就学习到更多的知识?7.进行SFT操作的时候，基座模型选用Chat还是Base?8.领域模型微调 指令&数据输入格式 要求?9.领域模型微调 领域评测集 构建?10.领域模型词表扩增是不是有必要的?11.如何训练自己的大模型?12.训练中文大模型有啥经验?13.指令微调的好处?14.预训练和微调哪个阶段注入知识的?15.想让模型学习某个领域或行业的知识，是应该预训练还是应该微调?16.多轮对话任务如何微调模型?17.微调后的模型出现能力劣化，灾难性遗忘是怎么回事?18.微调模型需要多大显存?19.大模型LLM进行SFT操作的时候在学习什么?20.预训练和SFT操作有什么不同21.样本量规模增大，训练出现OOM错22.大模型LLM进行SFT 如何对样本进行优化?23.模型参数迭代实验

总时长50分钟左右，攒人品中...1 实习介绍2 常见的的大模型，或者说VLM这块的模型，了解过哪些?3 Qwen 2.5 VL相对Qwen 2 VL做了哪些改进?4.追问了M-RoPE比原来的ROPE有什么改进?有什么优点?5.原来的ROPE在升级成M-ROPE之前，它是怎么处理视频的?具体来说，对于每一个每一帧或者说每一个patch，是怎么处理的?6.然后互相聊了不少项目，偏聊天风格，基本都是short talk，并不都是问答7 项目:主要想解决的核心问题是什么?8.项目:既然是一个垂类的一个场景，为什么要去用通用场景下的VLM来做?为什么不用已经具有领域知识的一些模型?9.项目:为什么你的VLM是输出点的坐标，而不输出bbox呢，bbox按道理比点的坐标具有更多的图像信息吧?10讲一下SAM2分割模型的原理11 项目:SFT框架用的是什么?12 项目:SFT数据的合成pipeline，详细讲解一13 项目:数据是用算法生成的，你们怎么判断这一批数据是好的还是不好的呢?14 算法题:lc70 爬楼梯

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1. 实习介绍2. 项目拷打3. 4B的模型部署需要多少显存？怎么算的？4. （项目）LoRA的数据怎么来的，结构长啥样？5. 说一下LoRA的原理；怎么理解“低秩”（r为什么远小于d）6. 了解Agent吗？说一下你做过的Agent workflow的具体流程7. 说一下LSTM的原理；其中门控机制提出是为了解决什么问题？8. 手撕代码：多头注意力；约瑟夫环

项目: 1.初始特征的处理2.考虑过的损失函数有哪些，为什么最后选这个3.热门item采样为什么要做去偏八股:1.什么是sideinfo2..召回链路里常见的正负样本采样方法3.短期序列建模常见模型对比手撕:1.K个排序数组的合并(改编自 LCR078.合并K个升序链表 )

1. 项目和八股介绍一下你做的这个项目为什么没有用 nsp，只用了 mlm分析一下transformer训练过程中显存占用和计算复杂度- 优化器 参数 梯度- 面试官说到：激活值也需要保存  训练过程中怎么去做到对激活值的显存占用，有什么参数可以进行控制 （答了混合精度，面试官说不对- 激活显存 ≈ `batch_size × seq_len × hidden_dim × n_layers × bytes_per_element`- 设置bs相关，也就是使用梯度检查点（Gradient Checkpointing），将大的bs分割成小的micro-bs来计算，最后进行一个统一PPO DPO GRPOclip可以限制分布差异  还有哪些方法KL 散度公式2. 手撕给定两个叶子节点，在二叉树中找到两个节点的最近公共祖先，空间复杂度要求o(1)。每个节点存在指向父节点指针

1. 实习介绍2. 介绍一下自己做过的项目（ baseline论文是什么，贡献点 ）。介绍一下我做的改进;问论文视觉是用的什么？3. 基于DAPO: 为什么对于长CoT加更多权重就会有用？4. 问我熟悉主流的VLM的架构吗？（我说比较熟悉llava，让我介绍一下）；问我llava 的projecter有哪几种？5. 问long video understanding有什么关键的问题？6. 介绍一下稀疏帧采样的方法都有什么；7. 常规问题：deepspeed优化架构？DP了解吗，介绍下DP？normalization是放在激活函数之前还是之后，放在之前有什么好处？问我是否熟悉：RMS norm，layer Norm，激活函数（llava的），q-former，qk norm，rope，swigle8. 手撕： 写一个layer norm

1.实习介绍2. RPC 与路由器的网络层级3.Python 调用 C++ 库（Ctypes, Pybind11 等）4.协程 (Coroutine)5.Vue2/3 数据双向绑定6.Node.js vs Python 并发 & Async/Await 区别7.JSON 数组转树形结构

1.项目介绍2.实习经历（不相关，但也会问）3.bert架构4.残差连接的一些理解5.了解生成式吗？6.代码题：1.不同路径改编题，问空间优化2.还有一个简单的，忘记了7.脑筋急转弯：两个非均匀蜡烛，单独燃烧需要30分钟，怎么得到15min

1.很多大模型的岗位，具体怎么选择，有什么考虑2.读博or大厂3.实习预期收获什么4.还有哪些流程5.面试对岗位感受是否匹配6.在学校和实习做业务遇到的困难、问题可能会有什么不一样

自我介绍 提问项目：1.gspo和grpo区别，损失函数2.ppo和grpo区别3.强化学习的理解（reward是否需要某一步突然特别好等等）4.策略模型和参考模型如何设计5.rag的架构，如何分块八股：1.transformer结构2.介绍一下微调有哪些3.为什么更多用lora这种泛式，而不是prefix tuning手撕：lc 旋转图像