浦发、交行信科岗实习笔面经记录(7-1)

1、项目介绍2、讲述论文内容和细节3、对于模型训练过程中，如果出现样本标签数据分布极其不均衡，通常会采取什么方法来解决问题4、transformer的感受野encoder中是可以看到所有的token的，你认为感受野越大越好还是越小越好5、位置编码:sin cos，正余弦，bert可学习位置编码，rope相比于正余弦编码的优势6、欠拟合“和过拟合定义，通常如何解决?7、transformer的位置编码的基底是10000为什么设置100008、手撕:岛屿的数量

1️⃣ 自我介绍2️⃣dpo训练对于系统问答的优化在哪里3️⃣提高模型的准确率核心是什么4️⃣rerank 用的什么模型5️⃣swiGLU 的改进6️⃣全参数微调 7B 需要多少显存7️⃣FP16/BF16 区别8️⃣介绍 gradient checkpoint9️⃣RougeL 计算方法1️⃣0️⃣代码：找数组第 k 大元素✴️如果想了解更多算法相关的面试问题，欢迎后台咨询算法offer辅导。

1.自我介绍；2.本科毕设项目介绍；3.Retinaface和Facenet的具体网络模型；4.Retinaface是如何检测人脸的，Facenet是如何识别人脸的；5.项目的创新点有什么，评判指标是什么；6.检测和识别用的时间，其中esp8266，mg996r分别是做什么用的；7.大模型量化比赛项目介绍；8.AWQ和GPTQ是什么；9.什么模型适合用AWQ，什么模型适合用GPTQ；10.其中最优的参数是怎么得到的；11.llm- benchmarker怎么用的，是什么评判指标；12.了解算子吗？（marlin kernel）详细说一下这个算子是什么；13.除了量化其他的方法了解吗？（压缩、减枝、LoRA）14.LoRA是什么；QLoRA是什么？为什么要用LoRA；15.具体的原理是怎么样的；16.如何将LoRA结合到TransFormer各个层？17.介绍一下TransFormer的架构；18.Encoder和Decoder是由什么组成的；19.MHA细节是怎么样的(QKV)，softmax是干什么用的；20.单头注意力和多头注意力有什么区别；21.为什么MHA下面要除根号d；22.潜在多头注意力了解吗，多头注意力的作用；23.FFN详细说一下；24.残差链接有什么用；25.Layer Normalization有什么用；26.Layer Normalization和Batch  Normalization的区别；27.Qwen3的基础架构是怎么样的；28.Qwen3和Qwen2.5相比有什么区别；29.Qwen3和DeepSeek有多少个头；30.大模型要训练出思维链应该如何训练；31.如何平衡精度和推理速度，怎么做trade off的；32.了解Agent吗，做过什么agent项目33.Dense模型是什么；34.MoE、MLA是什么，详细讲一下；35.LoRA的偏置矩阵详细说一下，为什么LoRA初始化A要正态分布，B要初始化为0；36.秩是什么意思；怎么理解；37.Qwen3哪里做的好；38.快手实习项目介绍；39.经纬恒润实习项目介绍；40.了解量化交易吗；41.你平时做交易是趋势还是阶段？------二更已oc

1.项目介绍2.训练样本大概多少条3.为什么会想在重排做生成式4.如果是做生成式召回应该对模型结构怎么修改5.有考虑用别的强化学习的方法吗6.dpo 的公式是什么7. grpo 了解吗8.beamsearch 怎么做的9.大模型了解多少，强化学习了解什么10.手撕 transformer 并计算 flops 和内存开销📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。