首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

秋招一败涂地。。。😭

这还是lz的处女面，第一次面试就遇到极品了，这是个实习面试，只是打算拿来练手，毕竟第一次面试，先是预订8点会议，等领导到八点半。开始面试后，又问楼主是谁，并且及其没有礼貌，而且要签三年的实习协议，毕业了也得实习，让我考虑一下。果断退出会议详情贴可以见lz最初的帖子，不过有点久远了

处女面，面试官人很好，问的问题都不难，而且不会的题也会一直引导和提示。八股都很基础，答的比较快，所以后面大部分时间都在聊大数据相关的问题，都不太会，被狠狠拷打，应该凉了。upd：已OCQ1：课业压力如何？能实习多久？Q2：对公司地点是否了解？Q3：如何看待互联网行业的高强度加班？Q4：是否了解前端，能否进行基本的前端开发？Q5：HashMap 的底层原理是什么？Q6：HashMap 是线程安全的吗？如果不安全，用什么替代？Q7：ConcurrentHashMap 是如何实现线程安全的？Q8：解释一下悲观锁和乐观锁的区别？Q9：ReentrantLock 和 Synchronized 的区别？Q...