蚂蚁大模型算法二面-26校招

1.项目介绍2.聊教育背景3.聊研究方向（面试官说她之前也是做这个方向的，聊了几句）4.介绍一下你的实习工作5.讲一下你RAG项目的亮点6.你对 VLLM 中使用的技术是否熟悉（如 Flash Attention、KV Cache）？7.介绍一个几种 Attention 技术的不同8.Self-Attention、Cross-Attention、GQA9.了解加速推理框架 Deepspeed 吗？10.微调项目是如何模型选型的，11.如何做微调的？直接用 PEFT 库，还是用LLama Factory做的？12.讲一下 DPO, PPO, GRPO 的原理和区别场景题题目：小红书里的很多笔记作为数据进行树状分类，最大分类数为 3000 类如果让我去做，会怎么收集数据，怎么训练，怎么做？数据如何收集？要什么格式的数据？可以人工收集并打标记AI算法题写 一下DPO_loss 函数leecode算法题寻找峰值

我们是如何走到这一步的人工智能这一词出现，依然有几十年的历史，差不多每过十年就会经历一次 AI 浪潮。抛开那些繁杂的概念，只说大模型，起源可以追溯到 2017 年发布的《Attention is All Need》论文，论文提出了Transformer，给现在的 LLM（大语言模型） 奠定了理论基础。理论到落地通常需要很久的时间。所以直到2022年，才有第一个应用诞生，至今AI应用访问量上都占据着榜首。模型 & 应用如何理解LLM一个发光二极管，亮与暗代表1和0，这样电信号与数字信号便有了转换方式，硬件与软件有了初步合作。不过0101代码的还是不够让人类方便的理解，于是人们将一组01抽...

1.你的 Agent 系统Prompt 是怎么设计和迭代的？有没有做过 Prompt 自动优化？当用户提出不完整的请求时，如何补全用户意图的？2.构建 Agent 的时候，遇到过哪些瓶颈？LangChain 的 memory 默认机制在多3.用户并发中怎么做隔离？你是如何保证线程安全的？4.微调 Llama2 你是怎么选择训练样本的？清洗逻辑是什么？你有没有观察到哪些训练样本质量问题对模型行为有很大影响？举例说明。5.DPO相比 SFT，有哪些优劣？它在 Agent 任务上效果提升明显吗？你怎么构造偏好对？构造逻辑是自动的还是人工？6.你说你服务部署在 vLLM 上，为何选择它？KV-cache 如何帮助推理加速？你自己做过哪些优化？7.假如需要支持 Streaming 输出，但当前服务延迟又超标，你会怎么折中设计？8.多轮对话上下文状态管理是如何做的？如何在高并发场景下保证一致性？9.你做的 Agent 使用了多少个外部工具，在调用链条上如何保障故障容错和超时机制？10.有没有做过工具调用失败后的feedback策略设计？11.训练过程中数据来自用户行为日志，你是如何从这些数据中抽取训练对话的？有没有做过归一化或事件抽象？12.有没有了解过带有时间窗口/偏移限制的对话系统？模型怎么“理解时间”？13.你觉得 Agent 哪些模块最容易在真实业务中出问题？你会如何监控和定位的？

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...