Tiktok AI系统性能工程师-Infra方向 实习/正式

攒人品攒人品～～1.实习拷打2.推理相关知识点：1.transformer架构（encoder-only、decoder-only、encoder-decoder各自优缺点，模型举例）2.prefill/decode 结合roofline讲3.nv基础（grid、block、thread、warp、l0cache/l1cache(shared memory)/l2cache/global memory、sram/hbm、tensor core、tma等）4.vllm相关（pagedattention、连续批处理、v0/v1架构、chunked prefill、prifix caching等）5.sglang相关 （radixattention，sglang代码没怎么看，问的不多）flashattention v1-v3、flashdecoding6.量化（LLM.int8()、SmoothQuant、AWQ、GPTQ等、量化的好处）7.投机解码（什么是投机解码、lookahead、n-gram、medusa、eagle）8.并行（dp/tp/pp/ep各自是什么，在vllm中如何实现）9.通信（reduce、gather、开销考虑）10.主流模型架构（llama1-3的演变、qwen3的moe怎么做的、deepseek的mtp）11.kvcache压缩手段（MHA、MQA、GQA、MLA）12.pd分离3.其他知识点计网、操作系统、python八股 都很基础4.手撕leetcode：反转链表、链表重排（lc143）、中序遍历二叉树的递归和非递归实现、最长连续序列（lc128）triton/cuda：layer norm、大矩阵规约求和、online-softmax

我自己在搞 AI Infra/HPC，有两个一直在维护的仓库：一个是用 C++/CUDA 从零写的深度学习框架：OriginDL另一个是工作中一点点积累下来的 AI Infra/HPC 知识地图：ai‑infra‑hpc链接先丢这儿，感兴趣可以先 star 了再说：https://github.com/jinbooooom/OriginDLhttps://github.com/jinbooooom/ai-infra-hpc如果你是刚开始找工作，或者准备投大模型 AI Infra/HPC 方向的岗位，可以把下面这份当成一个「复习清单」：面试高频会围着哪些点打转、我当时是怎么系统整理的、以及怎么用...

继续来分享下之前的面经~欢迎友好讨论，信息共享1️⃣算法题：手撕内存池（要求支持类似new Foo[], delete []功能)，c++如何比较两个float是否相等，LRU，岛屿个数，二叉树的层序遍历，hamming weight，k-coverage intervals2️⃣torch手撕题: LoRA adapter3️⃣cuda手撕题：1- 支持torch broadcast的4D tensor的elementwise mul2- A: (1, 256),  B: (256, 128),  C: (128, 256) ，计算 (A * B) * C3- Embedding Sparse Feature Pooling：A是 100 万个离散 ID（0~999），B是 100 万个float，计算个长度为1000的float数组C，C[i] = \sum_{j s.t. A[j] = i} B[j]4️⃣ai infra或算法八股：1- llm的知识蒸馏放在预训练做是否合适2- Hopper TMA的优点，调用方式，是否需要经过L13- Flash Attention v2为什么外层对Q循环，Flash Decoding的combine kernel耗时占比大概是多少4- Mooncake kv-cache centric的PD分离5- Dit的推理框架设计思路和LLM的有什么异同6- 分析MLA decode的计算访存比，它和seqlen、batch size是否相关7- diffusion model的训练和推理步骤，推理num_inference_steps为40时，为什么训练的timesteps仍要设成10008- 介绍dLLM，如何看待它和AR的区别9- torch.repeat 和 torch.expand的区别10- torchrun的启动参数有哪些，如何在Linux上批量kill包含torchrun的进程

最近收到很多同学私信：“AI岗位那么多，我该从哪个入手？”“非科班想进AI，选什么岗位成功率最高？”今天简单和大家说说AI的相关岗位入门路线，底层入门岗 → 中层应用岗 → 高层研发岗💡一些小建议：大一/大二：同时学Python和数学基础（高数/线代）；大三/研一：主攻「AI应用开发」或「机器学习工程师」，积累2-3个实战项目；研二/研三：目标「深度学习算法工程师」，冲刺顶会论文或竞赛，争取大厂核心部门实习；AI岗位没有“绝对好坏”，只有“是否适合你”。非科班同学可以从应用开发切入，数学好的同学可以走算法路线，重要的是“开始行动”——哪怕先做一个小项目，也比空想半年更有意义。--以上内容只是...