1．问实习和论文2．讲一下 LoRA ，两个权重矩阵一般怎么初始化，能都全0吗3．除了 LoRA ，还了解哪些可以进行训练推理优化的技术4．现在的多模态大模型，动态分辨率一般都是怎么做的，位置编码怎么设计5．平常训练或者微调 LLM 或者VLM，有什么感受6. 专家划分子空间是区分不同任务但有时候并不能取得理想的效果这是为什么7. 概率题，一副扑克牌，去掉大小王，随机抽两张，花色相同的概率8. 场景题：目前有一个带货的直播间，设计一个方案，商品比较多怎么降低时延

1.针对简历上的实习提问。2.kl散度和交叉熵的关系3.LoRA介绍，和全参sft怎么选择？小模型的sft和大模型的LoRA效果对比会是怎么样的？sft数据集如何构建？4.介绍AUC，AUC表达的是什么？5.recall重要的场景下，如果recall很高，precision很低怎么办？6.precision和recall都是什么，不同场景下precision和recall如何关注？哪个更重要？7.手撕-实现shuffle函数。

1.实习介绍2.针对项目提问3.FlashAttention原理，Online softmax，有没有看过cuda kernel，FlashAttention V1,V2,V3，FlashDecoding原理4.推理优化的思路（方法）有哪些5.用没用过vllm/SGLang，原理6.有没有听说过Dynamic Batching7.Coding：写一个ruduce，用block，优化版：用warp shuffle，能不能再优化？8.加载到shared memory和直接从HBM取input比为什么更快9.有没有听说过shared memory的bank conflict10.反问：在哪些地方可以继续提升自己

中山研0，本科末九。读研期间方向是ai Infra，目前已经找到阿里实习，内容是做dit模型的推理加速。 硕士期间出顶会应该不现实，但是乐观估计可以有三段大厂实习（不完全垂直）。这种情况下推荐之后就从事ai Infra了吗