面面俱到神 - 个人主页动态

今天 09:20

1.请介绍 Transformer 的结构组成及各部分作用2.如何降低 Transformer 的计算复杂度？常见的稀疏注意力变体有哪些？3.LoRA微调的原理是什么？秩 r 的选择会对模型表现产生什么影响？4.kv cache是什么？为什么能极大地提升推理速度？5.RAG的完整流程，构建向量检索库时如何处理时间衰减对召回的影响？6.微调时的训练数据是怎么构建的？如何保证样本多样性和质量？7.在 RAG+知识图谱的 Agent 系统中，知识图谱更新的机制是怎样的？是怎样保证实时性的？8.训练 LoRA 模型时，你是如何选择冻结层的？依据是什么？9.在高并发查询 Agent 系统中，你会如何优化召回和生成阶段的延迟？10.大规模 Agent 系统在多线程/多进程场景下的资源调度策略如何设计？11.如果你要在 GPU 资源有限的条件下同时提供推理和微调服务，如何做资源分配和任务调度以保证时延和吞吐？12.代码：lc15 三数之和

投递字节跳动等公司7个岗位

0 点赞评论收藏

12-18 16:58

华南理工大学算法工程师

携程算法开奖

base在上海，给了35*15.5+签字费，感觉给的不低，比上不足比下有余，不知道强度如何

校招薪资来揭秘

0 点赞评论收藏

12-18 12:15

华南理工大学算法工程师

淘天多模态大模型校招一面

1．首先是自我介绍和过项目，面试官还一起探讨项目用到的方法，可行性之类的2．介绍一下 CLIP3．了解 LoRA 吗， LoRA 微调的原理是什么4．了解哪些多模态大模型，简要介绍几个5.BLIP的三个损失函数分别是什么，数据是怎样清洗的6.BLIP2相对于 BLIP 有哪些改进，BLIP3又有哪些改进7.Qwen- VL 的三个训练流程分别是什么，有什么作用8．视觉编码器和 LLM 连接时，使用BLIP2中 Q - Former 那种复杂的 Adaptor 好还是 LLaVA 中简单的 MLP 好，说说各自的优缺点9．代码：实现多头自注意力一面比较常规，几乎都是八股问题，只要了解常见的多模态大模型都问题不大，主要还是要理解各个模型设计的动机是什么，这也是面试最喜欢考察的

0 点赞评论收藏

12-18 07:15

华南理工大学算法工程师

快手算法大模型二面-40min

1. 大模型预测 token 的损失是怎么算的？有哪几种常见的损失函数？2. 讲讲大模型的思维链技术？3. 聊聊 Transformer？它有啥优势？位置编码是咋做的，有啥改进？ROPE 是啥？Transformer 是怎么把文本转成 token 的？4. Lora 微调八股：矩阵 A, B 怎么初始化？为啥 B 要初始化成 0，A 不行吗？啥是矩阵的秩？5. Bert 和 GPT 有啥区别？大模型时代，小模型还有用吗？6. MHA 是啥？有啥改进？讲讲 DeepSeek 的 MLA？7. MOE 一般加在哪？从训练和推理的角度看，MOE 有啥好处？8. 你设计提示词时，一般遵循啥范式？算法题：二叉树的层序遍历

0 点赞评论收藏

12-15 15:20

华南理工大学算法工程师

查看8道真题和解析

0 点赞评论收藏

12-12 17:20

华南理工大学算法工程师

秋招面经-京东大模型算法一面

1.项目介绍2.LoRA 和 Prefix Tuning的区别?在什么场景下选择 LoRA?3.如果要用 LORA 做电商推荐场景的微调，你会怎么设计数据和标签?4.GRPO 和 PPO 的区别在哪?GRPO 的优化目标函数怎么写?5.搜索中 RAG的向量检索会受到长尾商品影响，你会如何缓解?6.如果商品知识库实时更新，你怎么保证 RAG的召回结果和库存一致?7.Reflection 机制里,如何判断一个 Agent 的失败是由知识缺失还是工具调用错误引起的?8.Toolformer 中通过自监督学习生成 tool call 数据,这个训练范式和 RLHF 的差别在哪里?为什么它更容易泛化?9.语义歧义(如“苹果”既是品牌也是水果)在搜索链路中通常怎么建模?多义词消解和上下文建模的核心方法分别是什么?10.算法题:实现 LRU

查看10道真题和解析

0 点赞评论收藏

12-10 00:15

华南理工大学算法工程师

百度大模型算法三面-秋招面经

1.大模型灾难性遗忘是什么？怎么解决的？2. 数据蒸馏的方法3.项目中怎么做的多任务学习，有用到经验回放吗4.deepspeed三个阶段5.计算attention时候为什么要除以根号dk，还有哪些scale处理？6.讲DPO、PPO、RLHF什么7.什么是旋转位置编码，解决了什么问题，为什么8.讲lora微调，如果是全量参数sft需要多长时间？9.实践过程中有什么值得注意的点10.了解deepseek - R1吗，介绍一下11. QWEN2的架构和训练方式

查看11道真题和解析

0 点赞评论收藏

12-09 14:10

华南理工大学算法工程师

26校招美团大模型二面45min

1.实习介绍和讲论文讲实习，多模态大模型是否有接触?落地案例?2.介绍一下 Qwen布的这几版模型，都做了哪些贡献，包括数据、模型和训练3.DeepSeek 有了解吗， DeepSeek 用到的 MLA 注意力是怎么做的？它可以直接用 RoPE 吗？为什么不能，它做了哪些优化4.了解大模型的解码策略吗，简要说一说吧5.现有一个能力较弱的多模态模型和一个能力较强的文本模型（如 DeepSeek-R1），如何结合两者的能力来回答与多模态相关的问题？6.代码：199．二叉树的右视图7.反问环节

查看6道真题和解析

0 点赞评论收藏

12-08 06:10

华南理工大学算法工程师

字节抖音算法二面凉经55min

1.实习介绍2.项目拷问3.你知道哪一些特征融合的方式?4.为什么采用余弦相似度来度量向量之间的距离?5.了解哪些相似向量的检索方式?6.项目的后续优化方案?7.解释-下 scaling law?8.介绍一下当前在看的一篇论文?9.介绍这个模型的结构，以及这篇论文解决了什么问题?10.介绍一下AUC的含义，以及代码的实现，分析代码时间复杂度?11.在代码界面写一下第一个项目所采用的损失函数?12.写一下交叉熵损失函数?13.Logistic regression 参数可以采用全0初始化吗?为什么?14.两个矩阵相乘，加法次数与乘法次数?15.手撕代码:删除多余空格:输入list[char]，输出list[char]。需要删除首尾空格，每个单词之间的多个空格保留一个。原地删除，空间复杂度为O(1)。

查看13道真题和解析

0 点赞评论收藏

12-06 22:15

华南理工大学算法工程师

26校招快手大模型算法二面

1.项目介绍2.微调数据构造3.案例库的embedding是怎么构建的4.视频抽帧怎么抽5.Sft是怎么进行监督训练的6.为什么lora可以训练少量参数来实现功能7.Ppo与grpo区别8.Dpo与ppo区别9.On policy与off policy10.Ppo的优势函数是怎么计算的11.PPo是怎么训练的12.讲一下豆包模型的架构，千问的模型架构13.手撕三数之和

查看13道真题和解析

0 点赞评论收藏

12-06 12:10

华南理工大学算法工程师

26校招字节LLM算法一面

1.介绍项目，围绕提问2.为什么要进行多头注意力？3.排序模型关注的指标是什么？4.常用的对比学习有哪些方法？怎么构造数据的？5.用bert做分类任务时，输出是怎么处理的？6.在训练模型时，如果遇到loss不稳定，如何去优化？7.讲解Transformer 的结构常用什么训练框架？8.讲解  LoRA 原理。9.常用的不同模态数据在embedding层面对齐的方法有哪些？10.多模态模型怎么训练？11.介绍一下 CLIP 模型。12.用bert做下游任务时，输入有哪些embedding？13.RAG检索召回的片段中，有一些质量差的，如果排除掉？14.注意力计算的计算复杂度是多少？15.C++中，指针和智能指针的区别？16.code：二叉树的层序遍历

查看16道真题和解析

0 点赞评论收藏

12-06 09:10

华南理工大学算法工程师

26校招华为大模型算法一面

1、介绍自己的中厂实习2、强化学习中onpolicy和offpolicy的区别什么?grpo是onpolicy的吗?如何实现真正的onpolicy?3、解释一下为什么GPT可以并行计算，而rnn不能。4、qwen系列纯文本模型每一代的改进点是什么?5、在计算attentionscore时如何对padding做mask操作?6、valuemodel和rewardmodel的区别?7、moe架构是什么?ds如何平衡每个专家学到的token数量?8、解释-下ds的MLA和MTPQ9、prompt工程，你在实践中有什么啲蓿过rick?什么时候给fewshot?什么时候逻辑引导?10、市面上的大模型分别有什么优势，如何选择合适的大模型?11、多维旋转位置编码是如何改进的?12、mcp°和fc是什么，在你的项目中你是如何使用这两个功能的?13、现场手撕接雨水。

查看13道真题和解析

0 点赞评论收藏

12-06 02:10

华南理工大学算法工程师

快手大模型应用算法校招一面

1.针对简历上的实习提问，各种场景题2.反思机制是什么做的?为什么要用反思?3.介绍一下 single-agent、multi-agent 的i计方案有哪些?4.介绍deepseekv3，mla、moe、mtp。5.lm 服务并发太高了怎么办?6.Linux 网络性能调优的方式。7.手撕-实现shuffle函数,8.智能客服、Agent或者强化学习。

查看7道真题和解析

0 点赞评论收藏

12-02 23:20

华南理工大学算法工程师

秋招面经-百度NLP算法一面

项目 拷打半小时八股1. CPT和Pretrain的差别，IFT和SFT的差别2. RLHF、DPO有训过吗，讲下原理3. 介绍GRPO的优化4. 讲下Transformer架构5. Attention公式，除根号d有什么作用，缓解梯度爆炸还是消失6. Norm为什么用LN层而不是BN层7. RMSNorm，PreNorm和PostNorm区别8. 有做过模型量化部署的工作吗代码买卖股票I用dp写，买卖股票II用dp写反问1. 可选base地

查看10道真题和解析

0 点赞评论收藏

12-02 12:20

华南理工大学算法工程师

懂车帝算法日常实习一面

实习部分： 1.介绍一下你的遗传算法具体是怎么做的？2.有没有出现不同时间参数效果不一致的情况？3.你负责哪一块工作？新闻推荐项目：1.介绍一下ItemCF的主要思想2.ItemCF有哪些改进思路3.介绍一下Word2Vec怎么做的4.为什么选择CBOW和skip-gram有什么区别吗，你为什么选择skip-gram5.DIN特征具体是怎么做的6. MMoE具体是怎么做的，有考虑过预测多目标互相干扰的问题吗？7.介绍一个其它的工业界用的多目标预测模型8.介绍一下工业界常用的精排和召回模型9.大模型与推荐结合的最新成果介绍一下？10. XGBoost还有GBDT的相关的介绍一下代码手撕：1.最长有效括号（用了栈，但是要求改进不用栈，但我不会2.在排序数组中查找元素的第一个和最后一个位置

查看15道真题和解析

0 点赞评论收藏

创作者周榜

关注他的用户也关注了：