因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

实习第二课，强制加班每天两个半小时，领导习惯不吃晚饭，所以我们所有人都跟着饿着，一直饿到八点下班，领导让我们集中办公，他自己也在会议室坐着，没有任何工作在看新闻，但是记的谁从会议室出去了，出去了几次，记得每个人点过什么外卖，因为我点了三次果茶，就阴阳我上班点外卖，记得谁敢反对他加班，谁敢发出一声叹气都会被记住，所有人必须在他下班之后再回家，这是潜规则，因为我一下午拉肚子跑了三次厕所，他随机找人汇报工作的时候把我的功劳按在别人头上，同事不理解，说我出去了，领导阴阳我上三次厕所，任何时候只要他在，必须要加班到晚上七点四十或者八点，每次都是，一天140元工资，老油条同事还反反复复想让我加班，想要让我周末无偿加班，公司本身福利不错，但是在这样的领导手下干活，这公司不呆也罢。

最近在牛客看了太多咨询Offer的同学了，给一个普适的结论：1.选业务，脱离业务讨论公司没有任何意义，有鹅选鹅只是个梗。2.综合对比薪资、地域、业务、组内氛围，主要还是看组 不同组之间差距很大 另外考虑好自己想做什么业务，大家选offer的时候最好提前打听下组内的氛围。3.技术方面大家差距没有那么大，技术够用就行，能让你和别人拉开差距的主要还是对于业务的理解程度。4.很多同学被高薪吸引过去，从来没有问过组内是做什么的，结果去了之后landing非常痛苦，所以大家最好多做准备，考虑清楚再去 。5.另外问下，对于校招生的培养体系和打听一下往届同学的离职率，他们的情况基本上就是这家公司近几年的写照 。