智谱大模型算法日常实习二面

自我感觉良好但喜提人才库，我真没招了...1.dpo原理 为啥要用dpo不用ppo2.ppo中的reward model如何训练3.ppo中的 GAE和优势函数是什么4.3b模型的数据是哪里得到的5.grpo和ppo的区别 优势在哪里了解 GQA和 MHA么6.手写一下 dpo和ppo7.手写多头注意力机制8.手写梯度下降法的二分

1. 自我介绍2. Java 中接口和抽象类的区别是什么？3. Java 的四大引用？4. Java 垃圾回收机制中，死亡对象的判断方式有哪些？常见的垃圾回收算法有哪些？5. 快手实习中，反编译抖音源码并进行网络抓包的具体流程是什么？遇到的最大难点是什么？如何解决的？6. 除了修改源码的方式，还有哪些中间人攻击手段可以绕过 CA 证书校验？7. 如何设计方案防止 APP 被抓包和破解？8. TCP 三次握手的具体过程是什么？9. TCP 和 UDP 的区别是什么？各自的使用场景有哪些？10. HTTP 协议的常见请求方法有哪些？GET 和 POST 的区别是什么？11. HTTP 请求报文和响...

1．实习拷打2．讲一下 LoRA ，两个权重矩阵一般怎么初始化，能都全0吗3．除了 LoRA ，还了解哪些可以进行训练推理优化的技术4．现在的多模态大模型，动态分辨率一般都是怎么做的，位置编码怎么设计5．平常训练或者微调 LLM 或者VLM，有什么感受6. 专家划分子空间是区分不同任务但有时候并不能取得理想的效果这是为什么7. 概率题，一副扑克牌，去掉大小王，随机抽两张，花色相同的概率8. 场景题：目前有一个带货的直播间，设计一个方案，商品比较多怎么降低时延

一、市场上到底要什么人？去招聘网站搜“大模型”，JD看一圈就会发现，岗位其实就三类：① 基模方向：预训练、模型架构、scaling law门槛：顶会paper or 名校博士结论：有就有，没有就别强求，不是几个月能补的② Infra方向：分布式训练、GPU集群、推理加速门槛：扎实的系统底层能力结论：你们组是做这个的就可以冲③ 应用层方向  这是大多数人的机会！不动模型：RAG、Agent动模型：SFT、RL（RLHF/RLAIF） 0基础同学能在4个月内真正拿到offer的地方，就是应用层二、技能要会在点子上，别被概念带偏现在各种概念满天飞，A2A、MCP、GraphRAG...每周都有新名词...