快手大模型算法二面-实习面经

flash attention解释下gqa解释下怎么才能训练好一个sft过程？sft的loss计算是用什么计算的？lora原理lora参数权重初始化lora的r和缩放参数dpo的lossdpo数据集怎么构造比较好？如果dpo训练过程中，accept回答和reject回答的loss都在升高，怎么办？假如说dpo效果不好，怎么解决？多轮对话一般要怎么训练？rag的流程？检索时，只用关键字匹配会存在问题，怎么具体解决？（没有上下文语义信息）给定一个网页，如何提取其中的关键信息

1、实习介绍2、讲述论文内容和细节。3、是否了解过多模态大模型，简单讲一下了解的多模态大模型。4、dpo 和sft的区别，可以先dpo后sft吗？5、如何处理reward hacking？6、dpo如果应用在第一轮对话中应该怎样做，你会如何构造这个数据集合？你认为多轮对话中，数据分布应该是什么样的？手撕hot100：二叉树的右视图

一个是百度文库的多模态AIGC算法，做文库的多模态内容生成方向；一个是荣耀的大模型算法工程师，偏向强化学习，做类似豆包手机的东西。楼主是第一次实习，不知道该怎么选希望看到的家人们来点意见

xdm，说是字节要联合车企造车啦？？？逆势发展啊说实在的的还是希望字节造车，毕竟hc就多了我会面向ai写bug，求求给我们个机会当节孝子吧✋