2020年秋招 运营/市场记录

2023年，开源模型刚刚多起来的时候，上手AI做的最多的事情就是微调，那会儿我有一张3090，就足够微调GLM2-7B或者Llama2-8B的模型了，网上还有很多的教程，教你怎么找数据集、怎么构建数据集，怎么微调大模型。仿佛只要学会了微调，我就一脚踏进了大模型工程师的门槛。包括到现在，很多客户一开始就说：“我们要微调一个自己的模型，网上都这样说的。”然后14B也好，32B也好，拉一堆行业数据往里塞，觉得这样才算构建核心壁垒。但连续了解几个项目之后，我现在的结论很清晰：对大多数做AI应用的团队来说，微调就是个坑。甚至面试的时候也会出现这个问题：为什么不建议微调？到现在网上还有很多新发的教程，一张...

年前投递了一波0面，收拾收拾过年了。之前的实习其实很边缘很边缘，基本没有可以写的产出，全是代码里自己扒出来的一些小点然后拓这两天重新整理了一下简历，把这个学期接的一个外包项目整理了出来，自己设计的也是比较烂，描述有些包装的成分。开学大三下了不打算在学校呆了，base长沙的牛友们有什么建议吗，还是说劝我全国海投。八股忘差不多了，年后到现在只复习了一半，打算下周再开始投。鼠鼠其实没意淫大厂了，想着找个双休的中小厂躺平就好了。

😨双非呢，按道理双非人这么多，不应该帖子更多吗？难道都被劝退了吗😭

岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...