大模型算法整理-python八股

关于工作环境：base深圳前海 内部配置绝了。一整栋50层都是oppo哒，我的工位可以看到欢乐港湾和大海，零食柜自给，很感动的是每层都提供独立的隔音室，3层饭堂里，23楼是最好吃的 周边很繁华。楼下三层是大商场，午饭后我一般会和其他实习生姐妹去citywalk，好多奶茶店，茶救，奈雪 喜茶，瑞幸，奶白，煲珠公每天换着喝，好幸福 关于工作氛围 感受到相当年轻，相当扁平的氛围，我们组（销售运营部）有三个哥哥姐姐直接对接我，她们人真的很nice，笨笨的我不会时，问她们都会耐心解答~~ 关于工作内容 感觉出入还是有的，问了哥哥姐姐，他们收到五六十份简历，面了6个，最后选了我，好感动好幸运。偏大客户运营...

接上篇 https://www.nowcoder.com/discuss/847995166416703488?sourceSSR=users还缺少了平台和中间件的部分没有和大家交流，这一篇补充一下平台&&中间件和 AI 相关的平台主要就是 Maas 平台和机器学习平台，Maas 平台，大家最熟悉的就是阿里云百炼，用于模型部署，模型微调，并且整合知识库，Agent平台的综合平台AI 中间件主要包括 AgentRuntime，AI 网关 等等资料推荐：首先是平台侧，对于大模型的工程化平台，开源的，我是最推荐 langfuse 的https://github.com/langfuse/langfuselangfuse 是 langsmith 的开源平替，包含可观测，评估，提示词管理，数据集管理等主流功能机器学习平台就比较复杂了，这个主要是各个公司的内部平台，用于算法同学快速迭代的，所以开源的资料比较有限，但我也找到合适的可以学习的https://github.com/kubeflow/kubeflow目前最主流的 MLops 工程包，很多机器学习平台的核心功能都是通过这个的组件编排实现的，通过学习这个，就可以逐步理解机器学习平台的核心功能此外还需要补充，k8s 和云原生相关的技术栈，用于优化模型的部署和调度。此外还要学习 Ray 这个不可或缺的分布式框架https://github.com/ray-project/ray然后是中间件这边AgentRuntime智能体沙箱，用于安全，快速，高效的运行智能体应用，并且和 k8s ，serverless 等相关技术结合，实现毫秒启动和动态扩缩容开源可以看看火山的子项目https://github.com/volcano-sh/agentcubeAI 网关只推荐阿里的开源 AI 网关 HIgresshttps://github.com/alibaba/higressAI网关除了一般网关的功能之外，还要支持，mcp托管，http无缝转mcp，模型路由等等，higress通过一个巧妙的插件系统接入了这些，并且还保留了大流量网关需要的核心功能（这个项目的语义化检索mcp插件是我写的，感兴趣的牛友可以看看）上面的这些，基本就把我认知中设计 AI 的开发岗位都讲的差不多了，其他评测平台和数据 pipline 搭建的，基本都是比较常规的技术栈，不太需要单独讲，比较喜欢鸡架的同学可以冲这些岗位。后面的系列规划：1. 从 0 - 1 实现一个 Agent 框架（教程 + 源码）可以写到简历上面的2. 一些有意思的项目推荐，目前已经想好了两个，后面发一下3. 自己的一些踩坑记录（比如后面暑期继续找垂直实习踩的坑）

看到社区好多同学表示投递出去的简历没反馈，今天来盘点一下你辛苦撰写的一份简历，从投递到入职，大约会有几波人看过你的简历。简历初筛 - HR只要是初具规模的公司，无论是独角兽还是大厂，第一个见到你的简历的人一定是HR，在这个阶段筛人的标准其实是非常残酷的，大部分都是卡学历、卡学校、卡实习不要觉得自己虽然是学院本，但可以依靠一身的高强武艺，能手撸spring源码，能倒着写红黑树，开源项目1k star，靠这些能弥补学历、经历上的不足，对不起HR小姐姐根本看不懂。拿到简历后一看，xx学院，啧....看看有没有实习经历，没有.......叽里咕噜啥玩意写一堆，下去沉淀......所以说这一轮需要注意的...

😅😅😅😅