记住一句话，不转正的实习生就是爷！实习生存真言：不想转正的实习生 = 职场自由人！先把实习目的摆得明明白白：要么混个实习证明、攒段能写进简历的经历；要么有机会就冲转正，没机会就撤；顺便赚点零花钱，摸鱼间隙还能出去旅旅游，体验一把职场生活。但核心要义必须拎清 —— 咱是实习生，又不是正式员工，别把自己当牛马使！想通这点就豁然开朗了：摸鱼被领导逮住了又能咋地？大不了笑嘻嘻认个错，下次接着来！实习的正确姿势就是：少干杂活烂活，多学真本事，摸鱼技能练得炉火纯青，顺便骑驴找马，有更好的下家直接润！反正没打算转正，绝对不主动揽活。领导派的活儿？咱就慢悠悠干，保证质量就行，剩下的时间，舒舒服服摸鱼赚米，主打...

 #投了多少份简历才上岸# 

公司开的新食堂，看一眼就吓哭了，坐5分钟就跑路了服务员还追出来问我为什么走了。还敢来互联网吗？啊？黑子说话！

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...