秋招签了一个不上不下的offer，虽然过程很艰辛，但还好结果了，，，秋招如果能重来，我一定早早的开始投递 好好练习面试好多机会在前期没有把握住，后面是真后悔 ps：这张图是复制牛友的代码自制的参考文献@v1be：https://www.nowcoder.com/discuss/831215997032886272

之前小米一面的时候，面试官让我自我介绍，我为了让面试官能跟上我的节奏，主动共享屏幕，然后对着简历上的实习经历和项目整体的架构图讲整个流程，但是讲完之后，爆发了一些矛盾：面试官说：“你对你的实习经历还不熟悉吗？还要对着简历讲”我说：“我这是为了让我讲的更加清楚，因为单靠口头描述的话，怕有点抽象，不大好理解”面试官说：“你都还没讲呢，怎么知道我不能很好的理解呢？”我说：“因为在这短短的几分钟之内，靠口头描述一个系统确实很抽象，所以想照着这个架构图讲”接着面试官说了这样的一句话：面试官说：“面试了这么多学生，你是唯一一个自我介绍还要对着简历讲的人”我心里一下子就恼火了起来，对着喷：我说：“经历了这么多场面试，你是唯一一个面试官对我共享屏幕有意见的”后续面试，他也只会问些Java八股问题，我也给他吟唱了一番，然后手撕的时候，由于有点不熟练了，再加上要跟朋友出去按摩，后面就说不想撕了，后面就去按摩去了。后续的结果竟然过了，但是一想着这面试官要做我的mt，后面就拒了后续流程了。

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...