字节推荐大模型校招二面

flash attention解释下gqa解释下怎么才能训练好一个sft过程？sft的loss计算是用什么计算的？lora原理lora参数权重初始化lora的r和缩放参数dpo的lossdpo数据集怎么构造比较好？如果dpo训练过程中，accept回答和reject回答的loss都在升高，怎么办？假如说dpo效果不好，怎么解决？多轮对话一般要怎么训练？rag的流程？检索时，只用关键字匹配会存在问题，怎么具体解决？（没有上下文语义信息）给定一个网页，如何提取其中的关键信息

1. 这个岗位是抖音电商岗位，在data部门，主要是做山寨商标识别的，可能需要用到多模态模型对山寨logo识别，或用到AIGC模型生成一些山寨logo2. 介绍完自我介绍，就是一道力扣困难题，求两个有序数组中位数，要求时间复杂度log(m+n)，可能需要二分法，但之前看力扣答案还看不明白，再写下去属实是浪费时间3. 项目深挖，主要是问我textual Inverion和Lora的作用，没有问我的论文4. 八股：Lora实现细节，PPO实现细节，是否知道大语言模型常用的旋转位置编码，是否了解deepseek的GRPO，你对多模态模型了解多少5. 思维题：如果你和一个人比赛但是你的胜率较低，你是选择五局三胜还是三局两胜获胜的概率大？答案应该是三局两胜，我跟面试官说可以建一个二叉树用回溯法求全概率然后比较。但是他让我用直觉判断，果然我的直觉是不准的，选了五局三胜。6. 开放题：如果让你去生成一些山寨logo，该怎么做。我回答的是首选图像编辑模型，在原有logo的基础上通过语言进行额外控制，可以最大限度保留原logo特征；因为logo的颜色较为单一，可以考虑用controlnet➕线稿修改的方式生成。线稿修改可以人工提供一些样本，成本相较于直接人工绘制山寨logo较低。

时间真的过得好快呀。想想我写的第一篇博客的时候，还在努力找实习中，当时因为实习面试通过，激动了特别久。而转眼间，我已经要准备离开这家公司了。从毕业到现在，已经在这家公司待了三年多了，如果算上实习的时间，已经有4个年头。甚至我在组内的时间，比大多数人都要长，也已经是组内的“老人”了。大家都说，对于毕业的第一家公司，感情都会很深，很舍不得。这是会的，而且毕竟在这里待了三四年，多少都会有点不舍，一起工作了这么久的同事。这篇文章作为我在自己这几年来的回顾和纪念，也希望能给到刚进入职场，或者准备离职的读者一些信息，写到哪算哪，我们开始吧。离职我大概是从去年开始有换工作的念头，到今年年初开始找工作，原因的...

实习研发薪资独一档，一线城市500一天的话还有房补这样算下来500×22=11000+1500=12500，实习生工资每月过万给的太多了，我了解的大厂实习工资都没这价，按我的经验来讲，像团子百度技术岗位正常就300一天，团子每天30元餐补吧，但字节三餐免费三餐吃的也很好，以后可以考虑有节选节吧，妥妥的天花板，爱了爱了，但节子强度也很大，我有的朋友在节子10-10+-5节奏，多一分价钱，多一分强度而且hr和运营这样职能实习岗位，在一线城市350一天，这个薪资超过大部分大厂的研发实习工资了不亏是宇宙厂，我的梦中情厂