AI infra工程师（大模型训推优化）

岗位职责

1.与算法研究员协同工作，分析模型在训练与推理阶段的性能瓶颈，从系统-算法协同角度提出改进方案； 2.主导或参与量化方案（量化感知训练QAT/训练后量化PTQ）的设计与实施，保障低比特下的模型质量； 3.主导或参与Diffusion模型步数蒸馏工作，将业界前沿的加速技术（如一致性模型、渐进式蒸馏）落地到生产环境； 4.基于vLLM / Sglang / TensorRT-LLM等框架进行深度定制与优化，开发高性能推理引擎； 5.设计与实现动态批处理、持续批处理、流水线/张量并行等高级推理服务与调度策略。

任职要求

1.计算机科学、人工智能、电子工程等相关专业硕士及以上学历，具备2年以上机器学习系统或高性能计算相关经验； 2.扎实的算法功底：深入理解LLM和Diffusion模型的技术细节与计算逻辑，不满足于“调用API”，追求底层优化； 3.卓越的工程能力：精通C++/Python，具备强大的系统编程和调试能力。深度参与过vLLM、Sglang、TensorRT-LLM等至少一种推理框架优化的实际项目经验； 4.硬件层优化经验：熟悉CUDA编程，并能熟练使用Nsight Systems/Compute等GPU性能分析工具进行瓶颈定位与优化； 5.出色的协同能力：能够在算法研究员与工程团队之间高效沟通，用双方的语言精准对接需求与技术方案。

符合京东价值观：客户为先、创新、拼搏、担当、感恩、诚信。

部门

探索研究院