大疆内推，最后一天

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

投了半个月实习了，一个面试也没收到。每个都只有一句不合适，问为什么也没有人回😥求大佬帮忙，看看，谢谢（二编：很少在网络上发言，个人信息忘记打码了）

java太牢了，打招呼了一千份了快，想找个实习冲春招，今天处女面，面一个初创公司给秒挂了，问了很多jvm和juc的东西，我没学过，计网也不太懂感觉还是好多没学，比如消息队列，和刚刚说的jvm  juc所以十一月了，转测试还来得及吗

科大讯飞二面+三面面经二面技术主管0. 自我介绍1. 开放性问题：如何用大模型赋能提效，如何排查高延迟问题2.少量八股，类加载3.反问环节，介绍部门具体业务———————————————三面brbp0.自我介绍1.为什么选择科大讯飞2.对主流大模型的看法3.反问环节个人认为在hrbp部分收获最大，有很多干货科大讯飞26届秋招正式启动中（内推免笔试），12月31日截止网申1、目前仅缺：飞星飞凡缺研发算法，秋招批次急缺研发，算法，测试、资源、营销类，合适优先考虑2、飞凡计划和秋招24-26届都可以投递，飞星计划仅限26届3、投递过飞星计划/飞凡计划还可以投递秋招正式批，各个项目相互独立，且面试结果...