蚂蚁数字科技-数字科技线-大模型训推引擎工程师

岗位职责

按方向划分，你将承担以下职责中一项或多项： 1.分布式训练方向： （1）设计并调优大规模混合并行策略（TP/PP/DP/EP/CP 组合方案），持续提升集群 MFU； （2）做训练性能 profiling 与全链路瓶颈攻坚，扛起训练稳定性终极排查（NCCL 超时、梯度异常、显存泄漏）； （3）对 Megatron-LM / DeepSpeed 等训练框架做深度适配、魔改与 bug 修复，主导 mid-train 阶段的分布式方案设计与执行，与基座模型团队做核心技术对接； 2.推理服务方向： （1）负责推理服务搭建与维护（vLLM / SGLang 部署、升级、深度调优）； （2）推进批量推理优化与量化方案落地，在精度与吞吐之间找到商业最优解； （3）建设 Checkpoint 管理与模型格式转换工具链，作为基模与算法团队之间的桥接层，提供日常 infra 支持； 3.Agentic RL 沙箱方向： （1）从 0 到 1 搭建 Agentic RL 训练的沙箱环境基建，做多团队协作的技术枢纽； （2）设计标准化的环境接口（observation / action / reward），保障沙箱的隔离性、容错与资源管控； （3）优化沙箱吞吐与延迟，持续接入新工具与新环境； 4.大模型训练参与方向： （1）负责专项数据合成，为模型训练提供高质量数据燃料； （2）参与专项能力优化与模型训练，把引擎能力转化为真实的模型能力提升。

任职要求

1.编程功底：熟练掌握 Python / C++，有 GPU 编程（CUDA / Triton）或分布式系统实战经验优先； 2.框架深度：对 Megatron-LM / DeepSpeed / vLLM / SGLang 中至少一项有源码级理解，而非停留在配置层面； 3.协作与 Ownership：能向下扎到代码细节，也能向上对齐目标，作为多团队间的技术枢纽把事推动落地； 4.加分项： （1）万卡级集群训练经验； （2）开源框架贡献； （3）Agentic RL / RLHF 训练系统落地经验。

岗位标签

NEW

特色标签

C/C++、DeepSpeed框架、Megatron框架、Python、SGLang框架、TP/PP/DP/EP/CP混合并行、vLLM推理框架、人类反馈强化学习、分布式模型训练、分布式训练、基于人类反馈的强化学习、基于智能体的强化学习、基座模型、大模型算法、大规模分布式训练、大语言模型、并行计算、强化学习、微软DeepSpeed、智能体、智能体强化学习、模型加速/性能优化、模型训推引擎、深度学习、混合并行策略、算法工程化经验、结构化生成语言框架、聊天机器人、英伟达Megatron、训练推理引擎、金融、高性能LLM推理引擎