阿里大模型算法实习二面 1h

首先你要会python（不需要熟练，只要用python写过简单项目）其次你要对算法的通用训练流程有个概念学历至少211，这决定你能不能过简历筛选 我们的目的就是以最低的时间成本快速过面，因此首先拆解一下面试组成部分常规面试时间一个小时，40分钟简历面+20分钟笔试+反问环节简历面主要考项目和八股。你最好有两个相关的项目，可以把四十分钟撑满；或者有一个充实的项目，可以经得住面试官拷打；如果项目都很浅很简单，那你需要对八股掌握的滚瓜烂熟。对面试者来说，问项目意味着自己掌握主动权，我们可以把自己的优势在项目里体现（比如可以在数据环节做复杂的设计，在调参上做设计，在训练流程上体现自己的独特insight），也可以通过项目提到的内容给自己划八股重点（一般提到数据就会问数据合成方法，提到微调就会问了解哪些微调方法和框架，提到rl就逃不开ppo grpo还有一些更新的等，提到rag会问检索 embedding，提到agent会问架构、memory等）。八股不是所有都考。我遇到过，力扣原题、transformer架构、KL散度这些神经网络公式的，还有数据处理的、设计prompt的等等。不过一般难度都不会很大，力扣的简单中等题做个大概，transformer和神经网络的经典实现看一看，其他的有一些些基础之后临场基本都能做出来。综上，时间有限：项目 >> 八股 = 力扣项目怎么找？ 网上有很多博主推荐项目，无非就是sft+rl，但我建议自己找一个研究背景，设计自己的数据格式，然后套那些技术手段（很多项目其实被做烂了，同质化很严重）。大概写一个项目的雏形出来，可以扔给llm跟他对话，让它充当面试官提问题。八股怎么找？ 最快的方式就是找各种面经，记录问题，然后自己借助大模型学答案，不要试图抱着一本书从头看到尾。大概准备的差不多70%之后就抓紧去面试，面试不要怕编的项目被拆穿、也不要怕答不上来面试官的问题尴尬，抱着学习的心态去面试，不要抱着通过的心态去面试。

27届找实习，大家帮忙指点一下简历🙏🏻🙏🏻🙏🏻。投的是大模型应用，现在boss打了几十个招呼，基本上没人回，请问是哪里出了问题，需要补点什么东西吗？

1、业务介绍2、交叉熵3、都知道哪些vllm的优化技术？4、logistic回归公式5、logistic回归的模型原理和loss6、给定一个时间序列，如何通过机器学习的方法进行建模筛选出来重要的特征，然后基于规则方法进行建模7、DeepSeek-MTP是用在训练阶段还是推理阶段的，具体过程是怎样的？8、在现有大模型的基础上，如何通过agent的相关方法，训练一个coder模型，撰写金融领域相关模型的代码。

项目深挖 1.训练时显存占用高的瓶颈在哪?做了哪些显存优化?2.如果重新做一次，你会在哪些环节提前做ablation?3.在多Agent系统中，如何保证异步任务执行的稳定性和结果一致性?4.如果Agent推理API需要低延迟响应，你会从哪些方面做系统级优化?5.你做Prompt优化时，是如何判断优化后的Prompt在Agent推理链路中性能提升的?用什么指标来衡量?6.你提到用DeepSpeed做SFT训练，请讲一下DeepSpeedZeROStage1-3的区别，以及什么时候用FSDP会更好?7.在你的问答Agent项目中，数据集构造的自动化流程是怎么实现的?8.你是如何利用多Agent协同来提高推理正确率的?调度策略如何实现?9.介绍一下RAG的整体流程。在Agent落地场景中，RAG会遇到哪些延迟和正确率问题?你怎么优化召回链路?八股1.AdamW与Adam在权重衰减上的实现差异?2.梯度累积等价于batch扩大的严格条件是什么?3.PPO的核心目标函数是什么?每个符号的物理意义?4.相比PPO,GRPO的"Group"体现在哪一步?5.KL散度在RLHF阶段出现的位置、作用以及过大/过小分别会导致什么现象?6.Multi-Agent场景里，Reflection模块与Memory模块的输入输出各自是什么?它们如何解耦又能互相增强?