1．项目介绍，过实习，讲论文，根据表述实时跟进询问交流2．讲一下大模型训练和推理的流程， SFT 和 RLHF 的作用分别是什么3．为什么探索 MoE 架构， MoE 相比 Dense 有什么好处4．有没有全量微调过5．推导一下神经网络反向传播的过程6．在 RLHF 中，目前主流的强化学习算法有哪几个，写一下损失函数的表达式7．一道排列组合的概率题8．平常有用过 RLHF 吗，简单介绍一下9. 开放题：对目前大模型的发展有什么看法10.代码：多头自注意力

面试题简述你知道一台服务器最多能建立多少个TCP连接吗？你会怎么估算或判断，需要考虑哪些因素。面试官想听的1、是否理解TCP连接在操作系统层面的资源占用。2、是否清除网络栈、文件描述符、内存、端口数量、TIME_WAIT等概念。面试回答举例服务器能建立的TCP连接数不是固定的，它取决于多个系统资源限制。因此，我会从以下几个角度去分析：1、文件描述符限制2、内存消耗3、端口与IP限制4、内核参数5、TCP 状态消耗详细内容可跳转该链接查看详情：http://xhslink.com/o/Ad32lGwSLBb由浅入深分析1、文件描述符是首要限制，要调整 ulimit 与 sysctl fs.fil...

1.进程和线程的区别？调度：进程是资源管理的基本单位，线程是程序执行的基本单位。切换：线程上下文切换比进程上下文切换要快得多。拥有资源： 进程是拥有资源的一个独立单位，线程不拥有系统资源，但是可以访问隶属于进程的资源。系统开销： 创建或撤销进程时，系统都要为之分配或回收系统资源，如内存空间，I/O设备等，OS所付出的开销显著大于在创建或撤销线程时的开销，进程切换的开销也远大于线程切换的开销。2.协程与线程的区别？线程和进程都是同步机制，而协程是异步机制。线程是抢占式，而协程是非抢占式的。需要用户释放使用权切换到其他协程，因此同一时间其实只有一个协程拥有运行权，相当于单线程的能力。一个线程可以有...