字节跳动 春招和实习内推

首先声明不搞infra的不用看，我现在看底层了，本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处： 加州大学伯克利分校（UC Berkeley）这篇里面讲了vllm，那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成：模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程，所以又要体现深度，那么就先讲KVCache，这个本质上是一种通用的思路就是减少k，v的计算，采用缓存的机制去减少中间值，而这个的问题是kv...

27届求锐评简历，日常实习约不到面有点无奈了

研发是不是喜欢我啊

前言：面试官人很好，说话很温柔，一些设计性问题答不上来会给一点提示。面试了1个小时，大约40分钟的C语言与freertos，15分钟的项目，最后5分钟问了一些非技术问题与反问。接下来是面试的流程：自我介绍C语言：staticvolatile以及使用场景程序的内存分布；怎么设计一个自定义的段rtos操作系统：任务是怎么调度的？怎么让任务进入阻塞状态；vTaskDelay阻塞任务具体怎么实现的；如果我想实现一个微秒级的vTaskDelay你该怎么设计消息队列内部是怎么实现的中断中带fromISR后缀的API函数和普通API函数有什么区别？请从他的内部实现讲解你该怎么将freertos的源码移植到当...