1.项目介绍2.介绍一下实习工作3.数据集使用的是公开数据集还在有自己构造数据集4.数据集包含哪些任务？5.分别讲一下 Dense 模型和 MoE 模型以及二者的区别6.讲一下MoE的 路由机制是如何做的7.训练完验证使用的是什么数据集8.做这个工作的过程中的难点在哪9.如何做的 SFT10.介绍一下 PPO（近端策略优化）11.讲一下 RAG 项目12.分类任务常用的评测指标有哪些13.讲一下 LoRA 微调的原理14.A、B 矩阵怎么初始化的15.LoRA 微调秩设置的是多少16.算法题：三数之和

1.讲解特征优化，有哪些难点，怎么评估2.怎么做特征处理3.介绍K-means量化，怎么做的多尺度4.怎么用的Parato优化，线上base比的谁5.介绍RQVAE，讲讲SID怎么用的6.RQVAE如何调参7.讲讲自己的三篇论文8.讲讲AUC（计算和物理意义），手撕AUC

1.问项目的数据集构建和细节2.分类模型微调前如果比较确定，但sft后可能会把概率输出变得不那么确定了，你觉得是什么导致的3.讲一讲奖励模型的训练，奖励模型的奖励是怎么来的4.是否了解过强化学习，讲一讲on-policy和off-policy不同和优缺点5.为什么sft和rl在post-train中可能需要轮着来最后是代码手撕：零钱兑换

1.八股：Transformer底层原理，为啥能替代RNN2.八股：大模型预测token的损失是怎么算的？有哪几种常见的损失函数？3.项目：看你做过RAG，讲讲从数据清洗到检索服务上线这整个链路是怎么搭的，怎么做chunk切分的4.项目：你觉得当前RAG的最大瓶颈在哪？你做过哪些改进来提升Recall5.项目：传统RAG有什么痛点；介绍GraphRAG，GraphRAG的难点是什么；GraphRAG如何应对增量场景6.项目：RAG中知识库搭建，对知识库的文件文档进行动态增量更新，怎么来避免新旧文档的文单的分布不一致导致的这种检索偏差问题7.项目：RAG怎么评估，RAG评估体系中最重要的是什么8.项目：常见的量化方式有哪些，QLoRA为什么选的是NF4和FP16这组组合，而不是别的组合？你能说说NF4的分布拟合逻辑吗9.项目：模型部署相关，说下模型部署的参数量和需求硬件之间的关系10.项目：部署一个MOE架构的千分三的235b的一个模型，他所需要的算力大概是多少？11.代码题：lc54. 螺旋矩阵

1.实习介绍2.实习有转正吗？3.材料项目介绍，有流程化吗4.前后端的实现5.如何做的模型评测6.训练数据和测试数据是怎么构造的7.有遇到训练过程中的bad case数据吗8.如果单卡放不下模型如何做模型并行9.有了解其他参数微调方式吗？10.GRPO算法了解吗，优势如何计算11.transformer的解码器12.解码器的输出形状，如何做自回归过程13.进程和线程的区别，线城池有了解吗14.c++和Python中的深拷贝和浅拷贝的区别15.倾向做AI应用开发还是支持大模型部门16.手撕:删除链表倒数第二个节点反问:组里大模型开发主要是什么方向（支持大模型部门）组里多少人（7，8个）

1. 实习介绍2. Wide&Deep3. DeepFM模型原理4. 其他的特征交叉模型了解吗5. LHUC的原理，有什么作用呢6. 项目拷打7. 手撕：N皇后8. 反问

1. 实习介绍2. 20分钟手撕三道算法题1. 手撕1:最长递增子序列的变形2. 手撕2:公共祖先3. 手撕3:快速排序3. 项目拷打4. 反问环节

40min 无手撕+纯项目1.实习介绍2. 详细吟唱两个项目，一个是RAG系统，一个是做 lora 微调的3. 针对第一个项目提问，能否实现个性化推荐，有什么策略？这里我说的是长短期记忆的管理4. 两个项目有什么优化的方向，一直吟唱5. 面试官介绍组内业务顺带介绍一下加班情况6. 如果给offer，实习大概多长时间，多久能够入职7. 反问：对实习生有什么期待？

1.力扣：搜索旋转排序数组2.ppo损失函数，解释，各部分是什么，ratio、advantage怎么理解，大模型advantage怎么计算，returns是什么3.Adam4.mha、mqa、gqa、mla5.交叉熵损失手撕6.位置编码有哪些，rope7.mse损失，gae损失，大模型里面怎么算8.大模型里面的ppo，returns是什么9.vit位置编码、二维位置编码、相对位置编码、多模态位置编码

项目 介绍其中一段实习，没问啥问题其他1. 实习都是什么原因离职2. 你觉得大模型和之前AI比本质解决什么问题，大家期待如此高3. 自己用过哪些AI类的产品，coding类的有用吗4. cursor类的AI产品能解决什么问题5. 有驾照吗，对车有什么了解吗6. 能提前来实习吗7. 对base地有哪些要求8. 描述一下你想去的公司是什么样的反问1. 业务聚焦点2. 重头戏是toB还是toC

上海卡斯柯软件开发怎么样  网上风评不太统一啊

bg本2硕9.base北京开了30*15，算什么水平？反正我知道没节子给的多

1、项目介绍2、介绍字节实习序列建模为什么考虑增加某个序列模型复杂化介绍简化结构怎么考虑的特征接入里某类特征集体含义gmv预估优化怎么做的，为什么不考虑单独对 gmv建模3、手撕问我最近刷题多吗，想要什么类型的题目(简单中等困难)，我说中等数组中第k个最大元素，秒撕链表中倒数第n个节点，也秒撕4、反问

1.实习介绍2.之前本科是否有学过机器学习，深度学习，强化学习的基础知识？3.讲一下你对BERT模型的理解？它相较于传统深度学习模型的它的突出点是什么？4.BERT模型相较于Transformer架构的优化是什么？5.做注意力计算的时候softmax之前为什么要除根号d_k?6.项目中的指令数据是你自己构造的吗？是否自己尝试过对指令数据做修改？7.有没有尝试修改项目中的prompt？prompt的准确度如何评估？8.prompt调试有做过吗？9.模型压缩这一块知道哪些具体的方法？10.rerank重排是不是有比准确率更好的指标？11.LoRA微调的框架用的什么？微调的时候是否遇到什么问题？比如收敛问题，指标不符合预期的问题？是怎么解决的？12.LoRA微调时的优化目标是什么？用的什么LOSS？13.做多分类任务，一般用什么LOSS去建模？14.样本比例不合适或者样本的难易程度不一样时，有没有设计过多路LOSS来衡量这些不同的情况？15.手撕数组中的最大子数组和，要求给出思路，时间复杂度和空间复杂度反问