因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

实习第二课，强制加班每天两个半小时，领导习惯不吃晚饭，所以我们所有人都跟着饿着，一直饿到八点下班，领导让我们集中办公，他自己也在会议室坐着，没有任何工作在看新闻，但是记的谁从会议室出去了，出去了几次，记得每个人点过什么外卖，因为我点了三次果茶，就阴阳我上班点外卖，记得谁敢反对他加班，谁敢发出一声叹气都会被记住，所有人必须在他下班之后再回家，这是潜规则，因为我一下午拉肚子跑了三次厕所，他随机找人汇报工作的时候把我的功劳按在别人头上，同事不理解，说我出去了，领导阴阳我上三次厕所，任何时候只要他在，必须要加班到晚上七点四十或者八点，每次都是，一天140元工资，老油条同事还反反复复想让我加班，想要让我周末无偿加班，公司本身福利不错，但是在这样的领导手下干活，这公司不呆也罢。

投了一个字节校招部门，一来就拒，说我项目周期不匹配，为啥，简历上的实习都是三个月的，咋了嫌弃三个月太短，不稳定吗？