智能体威胁识别与对抗防御研究-阿里星

Responsibilities

1、负责集团端管云全链路场景下的智能体安全能力建设，针对不同意图与形态的智能体（GUI Agent、API Agent 等）构建高效的威胁识别、行为分析与对抗防御体系； 2、探索面向 VLA 的对抗样本生成与防御技术，包括跨模型/跨任务可迁移的通用对抗攻击、感知-决策链路的鲁棒性评估及防御机制设计； 3、探索智能体幻觉问题的检测与缓解，覆盖感知幻觉（界面元素误识别、属性/关系错误）与推理幻觉（指令偏离、逻辑谬误、事实捏造），构建幻觉诊断基准并设计缓解机制； 4、参与基础安全域模型的安全能力建设与迭代，探索解决安全域样本标注昂贵稀缺、可读性差等核心瓶颈问题。

Requirements

1、对大模型相关技术有项目实操及研究经历，有智能体安全、大模型安全、VLA 对抗样本相关经历优先； 2、对安全攻防领域有较深入的理解，对以下至少一个领域有相关经历优先：移动安全、Web 安全、协议安全、IoT 安全； 3、具备优秀的研究能力，在 NDSS、IEEE S&P、CCS、USENIX Security 等顶级安全会议有工作发表优先； 4、在安全风控领域相关比赛中有获奖经历优先； 5、具备良好的合作与沟通能力，能够推进较为复杂的跨团队协作项目

Who this role is for

在读硕士或博士

Company overview