首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

27届末九，由于是女生，身边人几乎没有就业导向的，自学只能跟着网课，没人指导，很迷茫。下图是我目前的简历，不知道有需要修改的地方吗？求拷打。下面是目前的学习情况：目前算法过完了一遍力扣100和代码随想录，不过不是很熟，面经看了小林coding、JavaGuide，有一些没用过的技术看得不是很明白，掌握得不是很扎实。再加上常年跟黑马网课听思路，真正自己动手写代码的时间很少，这让我一直不敢投简历，总觉得内里空虚。项目没准备好面试相关的问题，简历上相应的考点不熟。如此种种。。。看到很多很多学长学姐大佬们的面经，愈发觉得面试可怕，自己没准备好，总担心自己是不是无望后端开发了。看到牛客很多同届以及更小一届的同学都找到实习了，很希望自己也能找到实习。而自己又好像摸不到后端学习的门路，只能不断赞叹黑马虎哥写的代码真优雅！微服务架构实在巧妙！消息队列、redis、sentinel、nacos、mybatisplus等等的引入都会让我赞叹这些工具的设计者的巧思，以及包括但不限于Java语言的优雅。然而只是停留在了解的程度，并不熟练。我是很希望能够继续深入探索这些知识的，只不过有一大部分时间都花在学校课程上了。我感觉我被困住了，我一方面必须保证我能够有个不错的学业分使我能有我几乎不想选择的读研退路（还有个原因是复习不全我会焦虑考试挂科，因此我会做好全面的准备，而这一步很费时间），一方面在B站学习各种网课，一方面得考虑提升自己并不扎实的算法基础，另一方面还得准备八股面经。这让我有点苦恼，我好像没那么多时间，因为绝大部分时间都花在了复习学校科目中了。我好像处处用时间，但收效甚微。想问问各位大佬是怎么平衡时间的呢？算法、项目和八股是怎么准备的呢？有什么高效的方法吗？谢谢您们花时间阅读我的稿件！

😭😭本人大三上，运气好进了一家小公司实习，其实我就会个crud写了个外卖项目，但是有公司愿意收留我，我很珍惜这次实习机会，但是有个老师喜欢举报我们这帮逃课实习的，被导员压力了，说是什么领导来查，当天晚上让我立即回宿舍，明早必须去上课实际上第二天来根本没什么领导，导员说的后果很严重，说再被抓到就要把我这学期成绩清零然后上报我夜不归宿并且让我延毕😭但是我很珍惜这次实习机会，师傅对我很好什么问题都愿意帮我解决，一时半会也找不到替课的感觉很为难了，延毕感觉很麻烦