大模型端侧推理优化算法工程师

Responsibilities

- 深度参与 FluxVLA 开源 codebase 的推理模块开发与维护，负责 VLA 模型在边缘计算平台上的高效部署，针对仿真环境与真实机器人场景进行端到端推理链路优化，确保模型在受限硬件上的实时性与稳定性。 - 负责具身大模型（VLA / WM / WAM）及多模态模型在 NVIDIA Jetson（Orin / Thor 系列） 等边缘平台上的深度适配与性能压榨，打通从模型导出、量化、编译到运行时调度的完整部署流程，并支持 FluxVLA 在真机上的快速迭代验证。 - 深入分析 Transformer 架构计算瓶颈，使用 CUDA / Triton / cuBLAS 等工具链开发自定义 Kernel（如 FlashAttention、MoE Gathering、量化反量化算子），针对 VLA 模型特有的多模态融合与动作解码环节进行专项加速，提升计算密度与能效比。 - 基于 TensorRT、vLLM 等框架进行二次开发，优化显存管理、动态批处理与 KV Cache 调度策略；结合 FluxVLA 的模型结构和推理模式，设计轻量级推理引擎，降低端侧延迟。 - 实施 INT8 / INT4 / FP8 / FP4 等量化方案，结合端侧硬件特性（DLA、Tensor Core、Matrix Core）调整量化策略，在保证任务成功率的前提下最大限度压榨吞吐；与算法团队协作，针对量化带来的精度损失进行微调或蒸馏补偿，确保仿真与真机表现一致。 - 使用 Nsight Systems、Ncu、Omniperf 等工具定位端到端推理瓶颈（计算、显存、带宽、延迟），提出并实施软硬件协同优化方案；参与真实机器人调试，解决仿真与真机部署差异带来的性能问题，推动 FluxVLA 在真实操作任务中的高效落地。

Requirements

岗位要求 - 具备扎实的工程能力，熟悉 Python / PyTorch，能够独立完成模型训练、推理、调试与工程化开发。 - 熟悉深度学习、大模型或多模态模型相关技术，对 VLA、Vision-Language Model、机器人学习、World Model 等方向有一定理解。 - 具备良好的代码习惯，能够编写结构清晰、可维护、可复用的代码，熟悉 Git 协作流程。 - 具备较强的问题定位和调试能力，能够处理训练不稳定、环境依赖、推理部署、仿真与真机差异等实际工程问题。 - 对具身智能、机器人操作、开源项目建设有浓厚兴趣，愿意持续学习和快速迭代。 加分项（适用于所有方向） - 有 VLA、机器人学习、模仿学习、强化学习、Diffusion Policy、Action Chunking、World Model 等相关项目经验。 - 有真实机器人调试、机械臂控制、仿真平台、ROS、MuJoCo、Isaac Sim、LIBERO、RoboCasa 等经验。 - 有大模型、多模态模型训练或部署经验，熟悉 Transformers、LoRA、分布式训练、推理加速等技术。 - 有开源项目贡献经验，参与过高质量 codebase 的设计、维护或社区协作。 - 具备较强的英文论文阅读能力，能够快速理解并复现前沿算法工作。 你将获得 - 深度参与 FluxVLA 开源 codebase 的核心开发，积累高质量开源项目的工程经验。 - 接触 VLA、大模型、World Model、机器人学习等具身智能前沿方向，提升算法理解与工程落地能力。 - 获得多类型真实机器人平台的调试、部署和实验经验，完整参与从仿真到真机的技术闭环。 - 系统提升具身 AI 全栈能力，包括数据、模型、训练、仿真、部署、真机调试和工程架构设计。 - 与具身智能方向的研究与工程团队紧密协作，共同推动开源生态和前沿技术落地。

Who this role is for

本科及以上

Company overview