AI infra 推理工程师

Responsibilities

-负责百度文心大模型推理基建体系的搭建与演进 -全面参与大模型推理全链路能力建设，涵盖推理功能开发、后训练适配及深度性能优化，重点推进计算模块在GPU下的极致调优 -主导推理引擎、高性能计算库及通信库的设计、开发与迭代，构建自主可控的高性能推理底座 -负责模型结构与推理优化协同设计，加速算法与推理系统协同优化，RL Infa协同设计优化 -负责 AI Infra 前沿进展跟踪调研，开展前瞻性研究与工程验证，推动关键技术突破与创新落地

Requirements

-本科及以上学历，计算机、软件工程、人工智能等相关专业 -掌握C++/Python，掌握CUDA、CUTLASS、CuTe、Triton、TileLang编程 -熟悉并行计算、分布式系统、存储等相关技术，掌握注意力及矩阵计算优化、批调度策略、分离部署、Cache池化与传输优化等大模型推理核心优化技术 -有CUDA 编程或高性能计算经验者优先，有计算通信优化、编译优化、巨型算子优化经验者优先 -有vLLM / SGLang / TensorRTLLM 等主流推理引擎经验者优先，有Agent场景Cache池化优化经验者优化 -有大模型低比特量化、投机解码、稀疏注意力等相关项目或实习经历者优先 -有大模型推理系统、大规模调度平台相关项目或实习经历者优先 -自驱、敢啃硬骨头，对算法前沿保持真实的好奇心；有开源贡献或顶会论文（OSDI / SOSP / MLSys / NeurIPS / ICML 等）是显著加分项 -软素质要求：结果导向，具备强烈的技术探索自驱力；优秀的团队协作与跨部门沟通能力；善于独立分析和解决复杂系统问题；学习敏锐度高，具备快速迁移知识到新场景的能力

Who this role is for

本科及以上

Work schedule

2026-07-21发布

Company overview