AI Infra 研发工程师

Responsibilities

1.云端AI基础设施建设负责模型训练、数据处理、实验管理、模型管理、评测调度、推理服务等云端AlInfra能力建 设，支撑VLA、世界模型、具身Agent和策略模型的快速迭代。 2.端侧模型部署与推理优化负责大模型、多模态模型、机器人策略模型在机器人端侧设备上的部署、压缩、量化、加 速和性能优化，提升端侧实时性、稳定性和资源利用率。 3.云边端协同架构开发设计并实现机器人端、边缘节点与云端之间的任务调度、模型更新、数据回传、远程诊断、灰 度发布、权限控制和故障恢复机制。 4.高性能推理服务建设搭建高吞吐、低延迟、可扩展的在线推理服务，支持批处理、流式推理、多模型路由、缓存、 弹性伸缩和服务降级。 5.数据闭环与可观测系统建设建设机器人运行数据、模型推理日志、传感器数据、任务执行状态、异常样本等数据采 集与分析链路，支撑模型优化、质量追踪和产品迭代。 6.工程平台化与规模化交付参与建设面向内部研发和外部开发者的模型部署平台、机器人应用运行时、SDK、工具链 和自动化运维体系，支撑大规模机器人产品交付。 *以上均为团队目标相关职责，但不要求一个人胜任以上全部职责。

Requirements

1.技能要求·AlInfra基础:熟悉模型训练、推理部署、模型管理、实验管理、数据管线、评测系统等AI工程基础设 施中的一种或多种。 云原生工程能力:熟悉Linux、Docker、Kubernetes、服务治理、CICD、日志监控、链路追踪、弹性伸缩、灰度 发布等工程实践。 · 推理化能力: 熟悉 ONNX Runtime、 TensorRT、Triton Inference Server、 vLLM, SGLang、llama.cpp、 TVM, OpenVINO、MindSpore Lite等推理引擎或部署工具中的一种或多种。 ·端侧部署能力:了解ARM、x86、NVIDIAJetson、RK、地平线、寒武纪、高通、Apple Silicon等端侧或边缘计算 平台，具备模型压缩、量化、剪枝、蒸馏、算子优化或异构加速经验更佳。 ·分布式系统能力:理解分布式任务调度、消息队列、缓存、对象存储、数据库、RPC、服务发现、容错恢复、权限 安全等基础系统设计。 机器人系统理解:了解机器人本体、ROS/ROS2、传感器数据流、控制链路、实时性约束、远程运维和安全边 界。 ·编程与工程:具备良好的Python/C++/Go/Rust中至少一种语言的工程能力，能够编写可靠、可维护、可观测的 生产级系统。 ·AI赋能能力:充分拥抱A，善于借助code agent、自动化工具和大模型提升研发效率;同时对交付质量负责，在 保证质量的前提下提升效率。 *以上均为岗位相关技能，但不要求一个人拥有以上全部技能。 2.相关领域工作经历·有AlInfra、机器学习平台、推理服务、云原生平台、机器人软件平台、自动驾驶基础设施. 边缘计算或智能硬件系统等相关领域2年及以上工作经验。特殊情况可面议。·有从原型系统到生产环境落地的工程 经验，能够在性能、稳定性、成本和交付效率之间做出合理权衡。

Who this role is for

硕士及以上

Company overview