首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

不知道为什么会有这种雷霆惩罚

三一重能 结构设计工程师 面经一面 7.14 （15-20min）技术面 自我介绍针对简历项目提问（个人项目）涉及到结构疲劳 分析方法解决问题的思路 理论知识面试官的研究方向可能刚好和我相契合问的问题都很专业英文面 8.2（5min）三到四个问题对于结构分析这类问题的思路为什么实验测试很重要你对三一重能的了解 为什么来三一面试官口语很地道 不难听懂终面 8.4 （20min）也是技术面 比一面问的更加具体面试官问了比较多关于材料的问题（个人有一个叶片设计的项目）包括整个结构的设计思路选用什么材料 材料性能具体的工艺 以及一些详细的参数反问总的来说 两轮面试都比较专业 问题有深度8.7 收到面试...