美团大模型应用算法实习工程

1. Encoder与Decoder中注意力机制存在哪些差异？2. 注意力机制的计算流程是怎样的，为何在计算时要除以根号下Dk，掩码注意力机制又是怎样达成的？3. 阐述GQA、MQA、MLA的原理分别是什么。4. 位置编码的必要性体现在哪里，为何选用sin_cos函数进行位置编码？5. 询问之前实习中Agent的设计思路，以及所提创新方法的实现方式。6. 提及使用DeepSpeed开展SFT训练，请说明DeepSpeed ZeRO Stage 1 - 3的不同之处，以及何种情况下使用FSDP更为合适。7. 询问Agent工具的设计情况，是否采用workflow形式。8. 了解哪些Agent开发框架，像langchain和LlamaIndex，它们的核心应用场景有何区别？9. 针对数据输入输出格式，为保证大模型输出稳定json格式，采取了哪些措施？10. 若Agent推理API需要低延迟响应，会从哪些方面开展系统级优化工作？11. 代码考察：给出LeetCode第34题，在排序数组中查找元素的第一个和最后一个位置

2025年，是我真正意义上的“毕业年”，也是人生中情绪最复杂、成长最剧烈的一年。我硕士主攻方向是电子设计自动化（EDA），但坦白说，我对C++始终提不起兴趣。实验室日常聚焦在AIEDA方向，代码以Python为主，C++几乎成了“只在面试里出现的语言”。虽然知道EDA岗位对C++有硬性要求，我也硬着头皮刷了不少题，但总是记了又忘、写了又错，编程上也越来越依赖大模型辅助。结果可想而知：秋招投递EDA岗位时，屡屡碰壁。没有亮眼的科研成果，项目经历也平平，简历关都过不去。那段时间，焦虑、自我怀疑几乎成了常态。看着同门陆续拿到offer，而自己还在“投简历+刷题”的循环里打转，内心格外煎熬。转折发生在秋招后期。我开始认真思考：兴趣是否比“专业对口”更重要？ 答案是肯定的。我对大模型技术产生了浓厚兴趣——它前沿、开放、充满可能性。于是，我果断转向大模型应用开发方向。虽然决定得晚，准备得仓促，甚至报了个短期班“恶补”工程能力，但也算是在绝望中抓住了一根绳子。过程可谓“连滚带爬”，每一步都在补课。知识体系庞大到令人窒息。幸运的是，在春招尾声，我拿到了一份大模型应用开发的offer。然而入职后才发现公司存在工资拖欠问题，起步就栽了跟头。现在的我，一边在职“骑驴找马”，一边疯狂补基础、做项目。回看这一年，我常常会觉得实验室里我是“混得最差”的那个，一味自责“太菜”。2025年，我没有光鲜的offer，也没有逆袭的故事，只有一个普通毕业生在迷茫中摸索方向、在失败里咬牙坚持的真实轨迹。2026年，愿我们都能在热爱的领域里，站稳脚跟。

目前拿了长沙科大讯飞的广州广电运通的大模型实习offer但目前了解到讯飞那边大概率是去做dirty work，广电这边应该可以学到一点东西这是我的第一段相关的实习，网上说大厂title比较重要，但又想去学点东西😭大家能帮忙选一下吗？

1. Encoder与Decoder中注意力机制存在哪些差异？2. 注意力机制的计算流程是怎样的，为何在计算时要除以根号下Dk，掩码注意力机制又是怎样达成的？3. 阐述GQA、MQA、MLA的原理分别是什么。4. 位置编码的必要性体现在哪里，为何选用sin_cos函数进行位置编码？5. 询问之前实习中Agent的设计思路，以及所提创新方法的实现方式。6. 提及使用DeepSpeed开展SFT训练，请说明DeepSpeed ZeRO Stage 1 - 3的不同之处，以及何种情况下使用FSDP更为合适。7. 询问Agent工具的设计情况，是否采用workflow形式。8. 了解哪些Agent开发框架，像langchain和LlamaIndex，它们的核心应用场景有何区别？9. 针对数据输入输出格式，为保证大模型输出稳定json格式，采取了哪些措施？10. 若Agent推理API需要低延迟响应，会从哪些方面开展系统级优化工作？11. 代码考察：给出LeetCode第34题，在排序数组中查找元素的第一个和最后一个位置