26实习淘天大模型二面 凉凉

从 Yao 等人，2022 引入了一个框架，其中 LLMs 以交错的方式生成 推理轨迹 和 任务特定操作 。生成推理轨迹使模型能够诱导、跟踪和更新操作计划，甚至处理异常情况。操作步骤允许与外部源（如知识库或环境）进行交互并且收集信息。ReAct 框架允许 LLMs 与外部工具交互来获取额外信息，从而给出更可靠和实际的回应。结果表明，ReAct 可以在语言和决策任务上的表现要高于几个最先进水准要求的的基线。ReAct 还提高了 LLMs 的人类可解释性和可信度。总的来说，作者发现了将 ReAct 和链式思考 (CoT) 结合使用的最好方法是在推理过程同时使用内部知识和获取到的外部信息。它是如何运...

感觉整体还是不错的，发一些问题给大家参考，攒人品中～1.实习介绍2.因为之前是做 CV 的，所以面试官问了 CV和 NLP 的区别和联系，在 Transformer 的大背景下，CV、NLP，包括语音等，能否实现大一统3.训练大模型的时候数据怎么清洗，怎么处理，怎么配比，怎样操作能更容易使模型达到更好的性能4.什么是大模型的幻觉，如何减轻幻觉问题5.大模型的复读问题是怎么产生的，业内一般有什么解决办法6.大模型的工具调用怎么实现7.Agent 有哪几部分构成，了解哪些具体的实现方法8.开放题:之前训练大模型的时候遇到过什么困难，你是怎么解决的9.代码:实现一个 Tokenizer，只能用 PyTorch 基础语法

大家好，今天给大家分享一下目前最有发展前景的工科专业。观点1：9/2无脑电子（上线高），双非1本或双一流就选电气（好就业），一本就可以计算机（工科无敌，就是吃青春饭），双非一本或二本就选机械或自动化（万金油，啥也能干）。观点2：985是计算机＞控制=电子＞机械＞电气，电气碰不上前三个幻神。9的硕士以上电气上限明显不如机械，电力运维方向就能进电网属于上限差但是稳定中高薪，电机控制方向直接牢中之牢，电力电子方向牛逼，有上限但是下限很低。985机械硕平均薪资高于985电气硕。顶尖985电气去大厂工资比电网高。顶尖985大部分还是电网，工资就没那么高了。观点3：我家孩子在能争top3的读电子科学与技术...

整体感觉还是不错的，发一下问题供大家参考～八股吟唱：1、Pretrain、SFT、RLHF区别（目标、任务定位和解决的问题？）2、为什么偏好对齐不能直接用偏好数据做 SFT，而用RL3、Pretrain和 SFT 在优化目标上的区别4、SFT的loss是什么，若target有10或100个token，loss如何计算5、SFT 样本（含 prompt）与预训练样本在计算 Loss 时的区别，如何屏蔽prompt的Loss6、控制生成多样性的参数有哪些？怎么控制的？7、top-k与top-p 区别8、除了贪心，还有哪些生成策略？9、你对多模态的理解？10、最近读了什么论文？论文的核心亮点是什么？11、PPO和GRPO的结构区别，各自适用的场景？12、DAPO、GSPO具体做了什么改进？13、是否了解 Swift？DeepSpeed 与 Megatron 的区别手撕算法：交叉熵、Softmax、Self-Attention力扣139题 Word Break变种