求助:后端转大模型

1. Encoder与Decoder中注意力机制存在哪些差异？2. 注意力机制的计算流程是怎样的，为何在计算时要除以根号下Dk，掩码注意力机制又是怎样达成的？3. 阐述GQA、MQA、MLA的原理分别是什么。4. 位置编码的必要性体现在哪里，为何选用sin_cos函数进行位置编码？5. 询问之前实习中Agent的设计思路，以及所提创新方法的实现方式。6. 提及使用DeepSpeed开展SFT训练，请说明DeepSpeed ZeRO Stage 1 - 3的不同之处，以及何种情况下使用FSDP更为合适。7. 询问Agent工具的设计情况，是否采用workflow形式。8. 了解哪些Agent开发框架，像langchain和LlamaIndex，它们的核心应用场景有何区别？9. 针对数据输入输出格式，为保证大模型输出稳定json格式，采取了哪些措施？10. 若Agent推理API需要低延迟响应，会从哪些方面开展系统级优化工作？11. 代码考察：给出LeetCode第34题，在排序数组中查找元素的第一个和最后一个位置

你是否想打造一个靠谱的知识客服，或是搭建能精准回答问题的知识库？这就绕不开一项核心技术——RAG（Retrieval Augmented Generation），中文译为“检索增强生成”。听起来高大上的技术，核心逻辑其实很简单：先从资料库里检索相关内容，再基于这些内容生成答案，即“先检索、再生成”，这也是其名称的由来。作为目前最常用的AI问答方案之一，RAG已广泛应用于企业知识助手、智能客服等场景。本文将从应用场景、核心原理、流程拆解、专业名词解析等方面，带你全面掌握RAG技术，搞懂高质量智能问答系统的构建逻辑。前言我认为AI的基础知识是现在求职和实际工作所必须掌握的，不管是算法还是后端前端岗...

好想问大家Java和大模型都是怎么选的，感觉Java技术栈太多了，但是直接转大模型学习，怎么说，也是从零开始，所以很纠结，想看看大家的看法

非常适合准备入门Agent开发或者是毕业生拿来做毕设的同学！！！包含的技术栈：LangChain + LangGraph + RAG + Agent + MCP + Memory + Python + FastAPIAgent下又有ReAct-Agent、CodeAct-Agent、Plan-and-Execute-Agent 的三种范式的示例链接为：https://github.com/Shy2593666979/AgentChat目前项目的Star数量≈100，已经收获来自理想汽车员工、西安电子科技大学同学等等等等的一致好评，遇到问题，尽管的提issue，作者还可直接远程操控电脑帮忙解决，...