首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

投的机械助理工程师，都没有反应，是简历问题嘛，家人们求求🙏

手机掉到地铁缝里很正常但是掉里面手机页面还显示牛客页面这就很好玩了

处女面，面试官人很好，问的问题都不难，而且不会的题也会一直引导和提示。八股都很基础，答的比较快，所以后面大部分时间都在聊大数据相关的问题，都不太会，被狠狠拷打，应该凉了。Q1：课业压力如何？能实习多久？Q2：对公司地点是否了解？Q3：如何看待互联网行业的高强度加班？Q4：是否了解前端，能否进行基本的前端开发？Q5：HashMap 的底层原理是什么？Q6：HashMap 是线程安全的吗？如果不安全，用什么替代？Q7：ConcurrentHashMap 是如何实现线程安全的？Q8：解释一下悲观锁和乐观锁的区别？Q9：ReentrantLock 和 Synchronized 的区别？Q10：什么是死...