首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

鼠鼠除了字节全投了，牛课上的全被拒了，美团百度腾讯这些一直简历筛选，快手直接简历挂是只能年后投了吗

（ps：时间，2024年11、12月）华子：我们这边周三周五不建议加班，提倡多陪陪家人我（内心os）：我都定青浦了陪哪门子家人我：好的，谢谢面试官，我这边还需要再考虑一下华子：？？？你不准备接我们的offer吗？？？我：我得考虑一下，感谢贵司的来电，再见。后官网拒之，父母哀之，吾亦哀之。然父母之哀，在憾失光耀门楣之机；吾之哀，在闻“三五不加”，则一二四之劳形，可不言而喻矣。所谓“伴亲”，如镜花水月，堪叹堪悲。

我先说一下，我这个是嵌入式应用层的开发。 早上在公司接到的大华的面试，他问我什么时候有时间，我直接坦白了我在实习了，白天不行，问问可不可以安排在晚上，他答应了，安排的晚上八点，我面试完就煮了碗面吃了就开始整理，害怕等久了我就忘了。 首先说一下整体感受，面试官人挺好的，我整个面试过程也特别自信。我感觉面试官对我印象应该还行，当然，其实我也不是他问的所有东西都知道，只是我了解的不够就明说，了解的就多说些，以前面的时候多少有些紧张，现在想通了，反正也就这样，大不了面不过嘛，又不是多大个损失。可能因为我是面试老油条了，面试一点都不慌。我还是强调一下，现在是提前批，很多大公司提前批招人就招的差不多了，所...