AI推理平台-百炼模型工程技术专家/高级开发工程师-北京/杭州

岗位职责

1. 模型服务API： 开发实现端到端的模型服务，涵盖LLM/VL/embedding/rerank等大语言模型， 也包含diffusion model方向的生图生视频的模型服务，构建高效的服务框架提升模型接入效率， 优化端到端服务性能，确保稳定性。
2. 百炼大模型开发平台上各领域模型服务架构设计迭代、性能优化以及核心服务开发。
3. 百炼大模型开发平台模型微调、模型评测技术架构设计、算法开发以及对应业务能力建设。

任职要求

1.计算机/人工智能相关专业硕士及以上学历，熟悉Python/C++/Rust 编程语言。 2.对深度学习、机器学习算法有一定的经验，有使用PyTorch/TensorFlow等机器学习框架的经验，有vllm/sglang等推理引擎使用经验的优先， 有算法框架研发经验的优先。 3. 具有良好的系统设计能力， 能够设计可扩展、高效的系统架构。 4. 具备出色的问题解决能力，能够快速定位并解决技术难题。 5. 有强烈的责任心，具备良好的沟通能力、执行力及团队合作精神。

岗位标签

NEW