AI Infra

职位描述 深度优化训练流程主导模型训练全链路性能分析与优化，设计GPU资源弹性调度策略开发自动化训练加速工具链，构建可扩展的云端训练框架研发混合精度训练、梯度压缩等前沿技术，突破训练吞吐瓶颈构建训练优化体系制定标准化训练效能评估体系，建立成本-效率量化模型设计可复用的训练加速组件库，沉淀最佳实践方法论开发训练过程性能分析平台，实现性能问题智能诊断赋能业务研发优化多任务资源调度策略，提升GPU集群整体利用率为算法团队提供训练加速解决方案，缩短模型迭代周期职位要求1.精通深度学习训练加速技术，熟悉分布式训练框架设计2.掌握CUDA编程及GPU性能分析工具（nsys/torch profiler）3.熟练使用PyTorch框架，具备训练流程优化实战经验4.熟悉常见模型压缩技术（量化/剪枝/蒸馏）及落地应用5.具备大规模集群资源调度系统开发经验者优先【技术加分项】1.有mmcv//deepspeed/megatron/ray等训练框架开发经验2.算子优化经验,triton/cuda等开发经验.3.熟悉MPI/NCCL等分布式通信协议4.在MLSys/ICLR等顶会发表过训练优化相关论文小米科技校招内推码: 1ZKSZUE投递链接: https://xiaomi.jobs.f.mioffice.cn/s/ig0XgB1AK8E地点：北京小米科技园联系邮箱：libin37@xiaomi.com

职位描述 深度优化训练流程主导模型训练全链路性能分析与优化，设计GPU资源弹性调度策略开发自动化训练加速工具链，构建可扩展的云端训练框架研发混合精度训练、梯度压缩等前沿技术，突破训练吞吐瓶颈构建训练优化体系制定标准化训练效能评估体系，建立成本-效率量化模型设计可复用的训练加速组件库，沉淀最佳实践方法论开发训练过程性能分析平台，实现性能问题智能诊断赋能业务研发优化多任务资源调度策略，提升GPU集群整体利用率为算法团队提供训练加速解决方案，缩短模型迭代周期职位要求1.精通深度学习训练加速技术，熟悉分布式训练框架设计2.掌握CUDA编程及GPU性能分析工具（nsys/torch profiler）3.熟练使用PyTorch框架，具备训练流程优化实战经验4.熟悉常见模型压缩技术（量化/剪枝/蒸馏）及落地应用5.具备大规模集群资源调度系统开发经验者优先【技术加分项】1.有mmcv//deepspeed/megatron/ray等训练框架开发经验2.算子优化经验,triton/cuda等开发经验.3.熟悉MPI/NCCL等分布式通信协议4.在MLSys/ICLR等顶会发表过训练优化相关论文小米科技校招内推码: 1ZKSZUE投递链接: https://xiaomi.jobs.f.mioffice.cn/s/ig0XgB1AK8E地点：北京小米科技园联系邮箱：libin37@xiaomi.com

社招校招HC充足，可使用百/千卡集群。内推链接：https://careers.pddglobalhr.com/campus/grad?t=2paN4PaHmd，内推码：2paN4PaHmd。岗位职责：1、优化深度学习在线推理服务框架，包括架构设计、系统研发、性能优化，保障模型推理性能与部署效率；2、优化深度学习模型训练框架，包括不限于CPU的稀疏训练框架、Dense模型训练加速以及离线模型推理优化，保障模型训练的稳定与高效；3、优化机器学习计算平台，负责构建一站式机器学习解决方案，涵盖从数据集管理、模型训练、模型优化、模型上线以及分布式计算全流程。任职要求：1、本科及以上学历,具有扎实的计算机基础, 熟悉操作系统和网络, 精通C/C++和Python编程语言, 对数据结构&算法设计有较深刻的理解；2、精通至少一种主流的深度学习框架，如Tensorflow或Pytorch；3、精通至少一种主流的模型推理框架，如onnxruntime；4、责任心强，思路清晰，技术视野开阔，对业界新技术敏感，喜欢钻研，具有良好的学习能力并注重团队合作；加分项：1、有大模型调优经验者优先；2、熟悉算子开发经验者优先；3、熟悉分布式训练框架者优先，了解Parameter Server架构，了解底层通信库，比如MPI或brpc；5、了解Kubernetes，有相关开发经验者优先；

社招校招HC充足，可使用百/千卡集群。内推链接：https://careers.pddglobalhr.com/campus/grad?t=2paN4PaHmd，内推码：2paN4PaHmd。岗位职责：1、负责实现和优化大模型分布式训练以及在线推理系统，提升训练效率和推理性能，包括不限于：架构设计、算子开发、数据处理加速、Checkpoint保存与加载、通信优化等；2、研究和优化大规模异构加速集群调度、存储、通信互联、监控、Profiling等组件，提升整体硬件利用效率；3、研究并实现各种模型并行策略（DP/TP/PP/EP/CP）、混合精度、Zero、FSDP、MOE、FP8等技术，加速模型训练，优化显存开销；4、设计和开发高效的离线、在线推理系统，优化TensorRT-LLM、ONNX-Runtime、vLLM等推理框架，加速整体推理性能；任职要求：1、本科及以上学历，具有扎实的计算机基础，熟悉操作系统和网络，熟悉C/C++和Python编程语言，对数据结构&算法设计有较深刻的理解；2、熟悉至少一种主流的深度学习框架，如Tensorflow或Pytorch；熟悉至少一种主流的模型推理框架，如TensorRT-LLM；3、熟悉CUDA编程，掌握TensorRT、Cutlass、cuDNN等加速库，有内核级优化经验者优先；4、具备大型分布式系统开发经验，熟悉MPI、NCCL、Megatron-LM、Deepspeed、FSDP等相关技术；5、责任心强，思路清晰，技术视野开阔，对业界新技术敏感，喜欢钻研，具有良好的学习能力并注重团队合作；