字节大模型算法校招一面

flash attention解释下gqa解释下怎么才能训练好一个sft过程？sft的loss计算是用什么计算的？lora原理lora参数权重初始化lora的r和缩放参数dpo的lossdpo数据集怎么构造比较好？如果dpo训练过程中，accept回答和reject回答的loss都在升高，怎么办？假如说dpo效果不好，怎么解决？多轮对话一般要怎么训练？rag的流程？检索时，只用关键字匹配会存在问题，怎么具体解决？（没有上下文语义信息）给定一个网页，如何提取其中的关键信息

1、实习介绍2、讲述论文内容和细节。3、是否了解过多模态大模型，简单讲一下了解的多模态大模型。4、dpo 和sft的区别，可以先dpo后sft吗？5、如何处理reward hacking？6、dpo如果应用在第一轮对话中应该怎样做，你会如何构造这个数据集合？你认为多轮对话中，数据分布应该是什么样的？手撕hot100：二叉树的右视图

1.概述与移植简述freertos系统freertos是一个实时操作系统，它内核比较小，可移植性高，适用于多种硬件平台，具有任务调度，中断管理等功能；裸机开发和rtos开发的区别？裸机开发直接对硬件进行操作，没有任务调度机制，需要手动管理内存，没有同步机制；rtos不依赖于硬件平台，可移植性高，有任务调度机制，内存管理机制，和同步机制；2.为什么会在项目中使用RTOS？对于简单的单一任务，我们会考虑裸机开发；但对于业务比较复杂的，我们会使用rtos，可以更好的实现复杂的业务逻辑同时更具有实时性；3.freertos启动流程？1.硬件初始化；2.系统初始化；3.创建任务；4.开启调度器；4.fr...

老粉都知道小猪猪我很久没更新了，因为秋招非常非常不顺利，emo了三个月了，接下来说一下我的情况吧本人是双非本 专业是完全不着计算机边的非科班，比较有优势的是有两段大厂实习，美团和字节。秋招面了50+场泡池子泡死的：滴滴 快手 去哪儿 小鹏汽车 不知名的一两个小厂其中字节13场 两次3面挂 两次2面挂 一次一面挂其中有2场面试题没写出来，其他的都是全a，但该挂还是挂，第三次三面才面进去字节，秋招加暑期总共面了22次字节，在字节的面评可以出成书了快手面了8场，2次实习的，通过了但没去，一次2面挂 最后一次到录用评估 至今无消息滴滴三面完 没几天挂了 所有技术面找不出2个问题是我回答不上来的，三面还来说我去过字节，应该不会考虑滴滴吧，直接给我干傻了去哪儿一天速通 至今无消息小鹏汽车hr 至今无消息美团2面挂 然后不捞我了，三个志愿全部结束，估计被卡学历了虾皮二面挂 这个是我菜，面试官太牛逼了拼多多二面挂 3道题也全写了 也没问题是回答不出来的 泡一周后挂腾讯面了5次 一次2面挂 三次一面挂，我宣布腾讯是世界上最难进的互联网公司然后还有一些零零散散的中小厂，但是数量比较少，约面大多数都是大厂。整体的战况非常惨烈，面试机会少，就算面过了也需要和各路神仙横向对比，很多次我都是那个被比下去的人，不过这也正常，毕竟谁会放着一个985的硕士不招，反而去招一个双非读化学的小子感觉现在互联网对学历的要求越来越高了，不仅仅要985还要硕士了，双非几乎没啥生存空间了，我感觉未来几年双非想要进大厂开发的难度应该直线上升了，唯一的打法还是从大二刷实习，然后苟个转正，不然要是去秋招大概率是炮灰。而且就我面字节这么多次，已经开始问很多ai的东西了，你一破本科生要是没实习没科研懂什么ai啊，纯纯白给了