【字节跳动2020校招】内推码：GE53TKJ（可查状态）

我投递的是供应链的岗位，有需求的宝宝可以参考一下～ 一开始投递简历后，会有一个线上**，大家可以去一些软件刷刷题再去做（因为这个题库有时候真的有点怪怪的），通过后经过漫长的审批，有些岗位会有专业测试（研发岗之类的），然后又是漫长的审批，你就会进入面试阶段啦！ 首先是11月中旬的时候hr会打一个电话面试： 时间不一定，早中晚都有可能，当时我以为是骚扰电话给挂了，幸好hr小姐姐打了第二个，听说有人挂了之后就没有接到第二个电话了，大家一定要注意（广东）种地方的来电！！！说不定就是你的面试通知！！！ 电话面的问题： 1.对传音的了解（可以多搜索传音相关的资料了解） 2.对薪资的期望（看个人需求） 3....

#实习#

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...