基础设施与稳定性工程-大模型推理优化工程师-高性能网络通信

岗位职责

负责设计、实现、维护 AI 和高性能计算所需要的高性能网络通信框架和大模型推理场景的性能优化，聚焦模型通信场景的能力建设，完善集合通信、点对点通信等通信方式与推理框架的联合方案设计，追求极致的推理性能。

任职要求

1. 精通 cpp 语言编程，熟悉 python 编程，具备优秀的系统开发、调试、优化能力和经验；
2. 具备扎实的计算机理论基础，对数据结构及算法有较强的功底，有高性能通信框架相关经验优先；
3. 有通信库如 NCCL/DeepEP等开发经验、分布式并行优化相关经验，熟悉ROCEv2、Infiniband等高性能网络协议，熟悉NvLink、Infinity Fabric等机内互联技术的优先；
4. 熟悉 Cuda 开发，了解 GPU 工作原理，有 kernel 算子开发优化经验优先；
5. 了解主流模型及模型架构，熟悉开源常见推理框架（如：VLLM、sglang、TensorRT）优先；
6. 优秀的分析问题和解决问题的能力，对解决具有挑战性问题充满激情；具有良好的沟通能力和团队合作精神，有比较强的推动能力；

岗位标签

NEW