字节实习大模型应用开发一面

岗位名称：大语言模型算法面试时长：1h–1.5h自评分：8/10是否下一轮：是模型架构与基础原理目前主流大语言模型在架构设计上有哪些异同点？（追问）Decoder-only 和 Encoder-Decoder 在实际应用场景上有什么区别？介绍一下大语言模型中的注意力机制，多头相比单头注意力有何优势？（追问）如果减少头数会发生什么？是否一定性能下降？什么是大语言模型的涌现能力？目前对该现象的研究有哪些发现？（追问）涌现能力是否和模型规模线性相关？什么是 Embedding？词嵌入和句嵌入有何不同？（追问）Embedding 层是否会参与微调？为什么？大语言模型中的 Tokenization 是如...

给我面没招，还是要多多练习，感觉自己说不明白业务逻辑1.python中的锁GIL？2.with语句了解么？3.深拷贝，浅拷贝？用什么方法实现？4.装饰器知道吗？5.迭代器和生成器区别？6.代码慢（瓶颈）分析？用什么？7.反问

TCP的三次握手与四次挥手？HTTP与HTTPS的区别？HTTP状态码？介绍一下Transformer架构的基本原理？Tranformer的Decoder与Encoder的区别？为什么现在大模型的发展更注重于Decoder？注意力机制的几个参数Q，K，V的含义以及公式？什么是检索增强生成技术（RAG）？开发Agent时工具流是怎么构建的？Java的集合介绍一下？ArrayList和LinkedList的区别？算法题：如何判断单向链表有环？

mt也鼓励用ai，感觉以后都差不多就是ai和我一起删删改改了，这个模式我能当几年程序员呢……唉感觉很容易失业