阿里算法

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

本地修改了一下生产的鉴权逻辑，然后当时改的代码太多了，mentor也没注意，结果生产的鉴权逻辑全没走，直接炸了，后续就是赶紧回滚然后把鉴权逻辑的注释删除了。

一、围绕项目、论文的八股AUC的物理意义Adam的相关八股BERT的一些具体用法二、一些场景题建模线上营销链路三、手撕爱尔兰国旗（我用移动0的方法做的）一道dp，最长递增子序列，并输出最长子序列形式：如流，自己处理输入输出

遇到秋招难题了1.华为还没开但是hr给我转了个base说这个新base概率很大，且说这周能有结果2.作业帮开奖了但是今天就必须要签三方，作业帮风评也怪不好的。3.两个薪资差不多。主要考虑到春招还想看看其他机会，学校三方只能毁一次，所以这俩只能选一个。华为title更高，但是考虑以后的话作业帮技术栈跟其他互联网大厂更能对的上，不知道这俩哪个好跳一点。反正总之就是很纠结，大家有什么建议吗？