大模型训练/推理框架工程师

Responsibilities

1.建设分布式训练推理系统，包括模型并行、长上下文、MoE、低精度训推等。 2.建设 RL 训练系统，包括异步 RL、Agent RL、OPD 等。 3.建设多模态训练系统，包括模型结构搭建、性能显存优化、数据读取加速等。 4.设计和开发大规模推理服务的 KV Cache 磁盘缓存、负载均衡等策略。 5.与算法团队协作，支持新模型、新算法快速落地。

Requirements

1.基础扎实，学习能力强，愿意深入复杂系统和底层细节。 2.代码能力强，代码品味好，擅长与 Code Agent 合作。 3.对大模型训练、推理、RL、多模态系统优化有强烈兴趣。 4.熟悉 Python / C++ / Rust 之一，了解 PyTorch。 【加分项】 1.在大型开源软件中有深度贡献，或有优秀个人开源项目。 2.在高性能计算相关赛事（SC / ASC / ISC / PAC 等）或算法竞赛（IOI / NOI / ICPC 等）中取得优异成绩。 3.熟悉 CUDA / Triton / TileLang / Ascend C 等算子开发。 4.熟悉 RDMA 编程，CPU / IO 优化。 5.在校成绩排名前 10%。 6.复现过 LLM、RL、多模态相关论文 / 项目。 （我们欢迎没有大模型经验，但计算机基础素质扎实、对 AGI 有热情的同学加入。）

Who this role is for

本科及以上

Company overview