1.实习项目介绍2.手撕InfoNCE损失函数3.绝对位置编码，RoPE和ALiBi三种位置编码原理4.手撕Transformer(写一个decoder block)5.手撕多头自注意力6.说一下DPO的原理和损失函数7.DPO和PPO的区别8.DPO阶段相比SFT阶段数据和模型分布的区别无leetcode手撕

小白同学终于迎来了期待已久的二面，然而滴滴面试官的这一问题却让他有些“破防”了。自诩略懂前端工程化的他，听到面试官问“npm install 之后究竟发生了什么？”时，陷入了沉默。小白同学：“…什么？”面试官微微一笑，并给出了最后的轻语😭：“那今天的面试就先到这里吧，好吧？”回到家中，小白同学决定好好研究这个问题，想弄明白“npm install 后，究竟发生了什么？他开始深入思考，阅读文档，最终发现了其中的奥秘——什么是npm？npm（node package manager），是随同Node.js一起安装的第三方包管理器。通过npm，我们可以安装、共享、分发代码，管理项目的依赖关系。嵌套...

1．项目介绍，过实习，讲论文，根据表述实时跟进询问交流2．讲一下大模型训练和推理的流程， SFT 和 RLHF 的作用分别是什么3．为什么探索 MoE 架构， MoE 相比 Dense 有什么好处4．有没有全量微调过5．推导一下神经网络反向传播的过程6．在 RLHF 中，目前主流的强化学习算法有哪几个，写一下损失函数的表达式7．一道排列组合的概率题8．平常有用过 RLHF 吗，简单介绍一下9. 开放题：对目前大模型的发展有什么看法10.代码：多头自注意力

1、进程和线程的区别，基本单位？哪些是线程私有的，线程调度算法2、用户态和内核态的区别，开销有什么区别？哪些操作会导致开销大？3、Nginx反向代理有什么特点，是怎么分给后端服务器的？4、HTTP请求的get、post区别，请求头中的参数5、项目中的难点，从数据库角度避免超卖（间隙锁、事务隔离级别）6、缓存穿透会出现在哪些场景下，除了缓存空值和布隆过滤器还可以？可以在缓存之前做一层proxy代码做流量的转发和限制7、实习做了什么？可重入分布式锁？？为啥会出现可重入的场景8、JAVA中的阻塞队列了解吗，ArrayDeque底层使用了阻塞队列，使得队列为空时返回空而不是报错？算法：分层打印二叉树