为什么美团只收到了短信，还没收到电话………………

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

牛油们，我的简历是有什么问题吗，为什么我投了快300份一个面试都没有，全部要完简历就拒绝或者没下文了😭鼠鼠要玉玉了，都马上寒假了

华子最近开奖了，薪资真不咋的，硕士211才20k在上海？劝退价了，华子不能算互联网大厂，只能算制造业大厂，不过要是能给到14a或者15的薪资还是很有竞争力的

朋友和我说他公司新来了同事，第一天来的时候下班下了很大的雨，朋友要借他伞，他死活不要，结果第二天就没来了。真的有点想笑上个星期我闲着，把工位上积灰的手办一个个收进纸箱，准备带回去换一批来摆。刚清理完桌子，隔壁同事探头看了一眼，又假装没看到继续工作了，不小心和我对视上他还尴尬的笑了笑我愣了下才反应过来，他以为我要跑路了。场面一度非常尴尬我解释，是准备换几个手办换个心情。也真没动过跑路的念头，公司有双人间宿舍，柜子里已经塞下我的全部家当，春夏秋冬衣服、各种零食全往里怼了。踩起拖鞋五分钟就到工位了，反正巨人园区里非常方便，健身房这些运动场所都免费开放，也有食堂。作为美术佬对于舒适这点根本无法抵抗，而...