超卖问题

二面 1.自我介绍，问实习和论文2.实习微调过Qwen2，你说说Qwen2的模型结构吧Qwen2相比Qwen1做了哪些改进3.为什么现在 Decoder-only 成为大模型的主流架构，相比于 Encoder-Decoder的架构好在哪里4.讲-下 ROPE ，目目前常用的位置编码还有哪些，ROPE 有什么优点5.为什么有了 SFT 之后还需要 RLHF6.PPO和 DPO 的主要思想是什么，DPO 相比 PPO的 RLHF 做了哪些改进，除此之外还知道哪些 RL算法7. 代码:23.合并K个升序链表

1. 介绍实习工作2. 面试官让我言简意赅地回答，不要展开太详细，主要要围绕你针对什么问题，做了什么事，实现了什么效果3. PD分离部署是什么意思，为什么能够提高吞吐量（实习）4. 面试官主要想听到，prefill阶段是计算密集型任务，decode是内存密集型任务5. 模型服务部署成功后，用户输入一个信息，在PD分离部署下数据链路是怎么样的6. 项目里写的定义的监听器为了保证数据的一致性，这里的数据一致性是指什么数据，他们为什么会不一致，是如何同步的7. K8S的pod之间是如何通信的8. docker的原理，它和传统的虚拟机有什么区别，它有什么优势9. 项目里写了优化数据库和缓存，是如何优化的10. 为什么要建覆盖索引11. 什么场景下会建立覆盖索引，建立了覆盖索引为什么速度更快12. 索引表里面会存数据吗？13. mysql的底层数据结构是什么？14. 为什么要用B+树不用其他数据结构15. redis的I/O多路复用16. ip和tcp协议的作用17. tcp协议是如何保证数据的可靠传输的18. 重点不在三次握手，握手只是方式，要答序列号同步、确认机制类似的这些19. tcp包的序号是如何定的，比如我有一个很大的包，分成了50份，这50个数据包是如何编号的20. 手撕一个计算器，输入一个字符串，输出答案，字符串只包含括号和+、-

1. 一张表假设有多个字段 abc, 建立了 abc 联合索引，where a = ? and b = ? order by c 能命中索引吗？2. 索引的底层原理3. 单例模式怎么实现4. 为什么要双重检测5. 如果使用反射机制可以破坏单例吗6. MySQL 事务隔离级别介绍，你平时用的哪一个7. Redis 你在什么场景使用8. 旁路缓存会存在脏数据吗9. Redis 获取缓存耗时增加了，原因可能是什么10. OOM 问题怎么处理11. Java OOM 问题处理，原因可能是什么，怎么处理12. 优惠券秒杀（方案描述），这里最核心的问题是什么13. 你是怎么避免超卖的14. 线程池有哪些核心参数15. 为什么线程池要先使用核心线程，然后队列排队队列满才创建非核心线程，为什么要这么设计手撕 快速幂

1.实习介绍2. Lora 原理(核心是低秩分解:将原始权重更新近似为两个低秩矩阵乘积，减少参数量，保留主导方向，训练高效)3.了解 DeepSpeed 吗，ZeRO -1, ZeRO -2和 ZeRO3分别做了哪些优化(1优化优化器状态，2优化梯度，3切分参数，全面节省显存)4. Qwen的模型结构是怎么样的，相比于 LLaMA,DeepSeek 有什么区别(Qwen采用GQA+SwiGLU+RMSNorm，和LLaMA架构非常相似，差异在训练数据和tokenizer中文支持更好;DeepSeek只用MoE/MLA架构，Qwen系列主要是Dense模型)5.怎么缓解大模型的幻觉问题(RAG，RLHF对齐，事实监督)6.大模型的 MoE 结构相比于 Dense 结构训练的难点在什么地方，DeepSeekMoE为什么效果好，有什么值得我们借鉴创新点(MoE面临负载不均衡、训练不稳定问题;DeepSeekMoE通过细粒度专家和共享专家设计提升稳定性和效果)7.知道FP16和BF16有什么区别吗，包括FP32和INT8这些，在训练大模型的时候，应该怎么选择(FP16精度高但易溢出，BF16动态范围大;训练常用BF16混合精度，推理用INT8量化加速)8.讲-下 RLHF 的流程，写-下 PPO和 DPO的 Loss表达式(训练奖励模型后用PPO/DPO优化策略:PPO Loss: policy ratio + KL 约束/ DPO Loss: logit preference diff + sigmoid binary loss)9.对于超长上下文业界一般是怎么做的，你知道 Qwen是怎么做的吗(业界常用ROPE 变体/滑动窗口注意力/稀疏注意力等:Qwen使用YaRN和窗口注意力扩展上下文)10.开放题:你觉得目前大模型的上限在哪里(推理能力、长期记忆、具身交互和能耗效率，需要架构创新和多模态融合突破)11.代码:152.乘积最大子数组