数据技术及产品部-大模型数据处理优化专家-杭州/北京

岗位职责

1、负责多模态数据处理链路的推理优化，分析性能瓶颈，软硬件结合优化，实现包括语言识别、计算机视觉等多方向的推理优化，达到极致性能； 2、负责多模态数据处理链路的可观测性工具建设，包括数据处理、模型推理的监控、告警等； 3、负责异构资源（GPU、CPU等硬件）的调度优化，实现潮汐资源、混部资源、多云资源的最优化调度 4、负责集群和业务服务的稳定性治理、资源利用率提升，通过系统化方式提高GPU、CPU等硬件资源的使用效率。 5、参与设计高吞吐、低延迟的数据处理 pipeline。针对大模型数据处理场景（如LLM、多模态），优化数据清洗、预取、缓存及异步加载策略，确保数据大规模产出。

任职要求

1、精通Python/Java，熟悉PyTorch、vLLM等推理框架，具有处理多模态数据（图像、文本、音频、视频等）的经验，对主流大语言模型推理加速有实践经验者优先； 2、熟悉常用的flink/spark/hadoop等大数据处理框架 3、对Daft、Ray等开源AI数据处理框架熟悉者优先 4、有可观测系统开发或应用经验者优先，包括prometheus、grafana等； 5、对多模态模型熟悉者优先，包括qwen-vl、qwen-omni等； 6、本科及以上学历，计算机相关专业，具备扎实的算法与数据结构功底；

岗位标签

NEW