我先说一下，我这个是嵌入式应用层的开发。 早上在公司接到的大华的面试，他问我什么时候有时间，我直接坦白了我在实习了，白天不行，问问可不可以安排在晚上，他答应了，安排的晚上八点，我面试完就煮了碗面吃了就开始整理，害怕等久了我就忘了。 首先说一下整体感受，面试官人挺好的，我整个面试过程也特别自信。我感觉面试官对我印象应该还行，当然，其实我也不是他问的所有东西都知道，只是我了解的不够就明说，了解的就多说些，以前面的时候多少有些紧张，现在想通了，反正也就这样，大不了面不过嘛，又不是多大个损失。可能因为我是面试老油条了，面试一点都不慌。我还是强调一下，现在是提前批，很多大公司提前批招人就招的差不多了，所...

他也是实习生，与前端同事对接，他给出对于这个问题的想法，前端就只回了一个“？”，或者跟她说修改哪里就只回一个“1”，跟我这个实习同事交流不超过4个字，那个前端也是一个二十三四岁的感觉，笑死了

最近找了个北京实习，和爸爸说要去北京实习，租房寻求一些资金支持，结果没想到他对我说：你去什么北京？小姑娘不要跑远地方，毕了业回家找个差不多的工作就得了..... 我真没想到这是我爸能对我说的话..... 好寒心非常的寒心😭主包决定找朋友先借钱了，这个家我真的是不想回😭

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...