上周五面的高德现在还没消息是怎么回事

1．首先是自我介绍和过项目，面试官还一起探讨项目用到的方法，可行性之类的2．介绍一下 CLIP3．了解 LoRA 吗， LoRA 微调的原理是什么4．了解哪些多模态大模型，简要介绍几个5.BLIP的三个损失函数分别是什么，数据是怎样清洗的6.BLIP2相对于 BLIP 有哪些改进，BLIP3又有哪些改进7.Qwen- VL 的三个训练流程分别是什么，有什么作用8．视觉编码器和 LLM 连接时，使用BLIP2中 Q - Former 那种复杂的 Adaptor 好还是 LLaVA 中简单的 MLP 好，说说各自的优缺点9．代码：实现多头自注意力一面比较常规，几乎都是八股问题，只要了解常见的多模态大模型都问题不大，主要还是要理解各个模型设计的动机是什么，这也是面试最喜欢考察的

我们是如何走到这一步的人工智能这一词出现，依然有几十年的历史，差不多每过十年就会经历一次 AI 浪潮。抛开那些繁杂的概念，只说大模型，起源可以追溯到 2017 年发布的《Attention is All Need》论文，论文提出了Transformer，给现在的 LLM（大语言模型） 奠定了理论基础。理论到落地通常需要很久的时间。所以直到2022年，才有第一个应用诞生，至今AI应用访问量上都占据着榜首。模型 & 应用如何理解LLM一个发光二极管，亮与暗代表1和0，这样电信号与数字信号便有了转换方式，硬件与软件有了初步合作。不过0101代码的还是不够让人类方便的理解，于是人们将一组01抽...

1.项目介绍2.聊教育背景3.聊研究方向（面试官说她之前也是做这个方向的，聊了几句）4.介绍一下你的实习工作5.讲一下你RAG项目的亮点6.你对 VLLM 中使用的技术是否熟悉（如 Flash Attention、KV Cache）？7.介绍一个几种 Attention 技术的不同8.Self-Attention、Cross-Attention、GQA9.了解加速推理框架 Deepspeed 吗？10.微调项目是如何模型选型的，11.如何做微调的？直接用 PEFT 库，还是用LLama Factory做的？12.讲一下 DPO, PPO, GRPO 的原理和区别场景题题目：小红书里的很多笔记作为数据进行树状分类，最大分类数为 3000 类如果让我去做，会怎么收集数据，怎么训练，怎么做？数据如何收集？要什么格式的数据？可以人工收集并打标记AI算法题写 一下DPO_loss 函数leecode算法题寻找峰值

已经干了五个月了，我很喜欢说每一个去过的公司都是黑厂，这话听起来有些主观，但如果和十年前相比，却又显得很客观之前秋招拿过百度的offer，这几天和当年的面试官聊天，他说我要是来百度，现在又得复刻阿里老路了我说拿个n+3.5也行，在阿里转正失败之后，我其实挺看得开被裁这件事，反正本来也没打算干多久他说你想的挺美，校招生给n+0.5就不错了，而且经历过的同学都知道，这种不是一两月的补偿能抵消的突然想明白了为什么互联网公司互相称呼同学，国企互相称呼老师因为同学会毕业，早晚而已这并不是一份多么值得让人羡慕和追逐的工作在这里，人也并没有太多的时间想以前和以后最近部门里没发生什么大事，我们算是一个很忙也比...