字节大模型算法实习一面 75min

上班摸鱼，翻了2025年至今牛客网的阿里系面经，包括阿里云智能、达摩院（通义实验室）、阿里云计算平台以及阿里妈妈等机构，整理了算法工程师的常见面试内容，希望对想冲大厂的你有所帮助^ ^ 核心架构演进：Transformer组件的细粒度考察 Transformer架构作为现代大模型的基石，其考察深度在2025年达到了前所未有的水平。面试官默认候选人已经熟悉基本结构，转而主要攻击架构中的具体组件选型及其背后的数学原理。 位置编码（Positional Encoding）：从绝对到相对的演变  RoPE (Rotary Positional Embeddings): 42次 ALiBi (Atten...

1.介绍另一个项目，还有围绕该项目的深挖比如多个大模型的统一适配是怎么做的？有限状态机的完善过程是什么样的？整个fsm通过几个模块来完成？2.主要考察业务场景问题：1.技术人员如何在模型生成结果中体现内容的创新性？2.想要让新用户在初次使用App时快速被吸引，你设计的模型需要注意哪些点？3.提到的收集时空两方面的数据，如何收集？收集后该如何分析处理？3.八股：1.了解过qwen、llava等大模型吗2.它们各自的核心特征是什么3.它们是怎么进行微调怎么去训练的4.手撕代码：两个升序序列的合并，询问思路和复杂度

面了好多家，有好的有坏的，虽然没有大厂。。但是感觉机会真的比秋招多太多了，对于双非很友好啊。。😭

说面试时间40分钟，最后面了一个小时一。实习介绍二。项目介绍（基本上八股都是围绕项目来展开）1.项目数据集，多域建模前，有没有做一些探索性分析？2.每一步的出发点和落脚点（不管是不是自己写的项目，交给ai编的也要说出来，这是重要的业务出发点）3.懂大模型的知识吗？（现在很多面试都会问到大模型和生成式推荐）4.介绍Transformer（超高频考点，必会），你怎么理解QKV5.讲讲MHA的优点，还了解其他的注意力机制吗（flash attention等）6.讲讲BGD，MBGD，SGD的区别7.讲讲你用的优化器？（AdamW，这个也特别重要，那几种优化器的思路、公式，说出来的话就会很加分，但是考察的不多）8.说说ROC曲线和PR曲线的原理（必会的，相关指标问题），说一下AUC和GAUC的区别9.GAUC效果那么好，为什么上线的时候也要用到AUC（回答GAUC的局限性）9.你还了解哪些指标？（DCG,IDCG,）三。代码最长有效括号（hot 100）没做出来，按有效括号那个思路写的。四。反问