Job Description

AI安全评估产品研发专家上海社招全职数字技术本科及以上7-10 年职位描述1. 定义AI安全评估新范式： 深入智能辅助驾驶核心场景，主导定制化场景智能挖掘、特性洞察与高置信度安全评估体系构建，并打造支撑全流程的创新工具链；
2. 构建模型安全“免疫屏障”： 从AI Safety视角，设计并实施模型/模块级的前沿安全评价指标与体系，研发关键评测工具链，为车端AI模型的鲁棒性、泛化性与本质安全保驾护航；
3. 驱动评估效能与可信革命： 主导评估工具链在项目中的高效落地与持续进化，突破CICD集成、可信度验证与一致性保障等关键挑战，大幅提升评估效率与结果公信力;
4. 打造AI安全量化基座： 开创性研究并设计AI安全评估的量化方法论、指标体系与落地实践，奠定行业领先的可衡量、可复现的安全基准；职位要求1. 具备良好的数学和统计学知识，能够理解和解释机器学习算法的原理；
2. 熟悉现代AI领域的先进模型（如Transformer， Contrastive learning, Representation learning, Multi-model understanding & reasoning，Diffusion及其相关变种等），深刻理解其原理；
3. 熟练使用PyTorch等开源深度学习框架，具有一定的模型训练和性能调优等经验；
4. 能够基于相关的基础AI模型，结合对业务的深度思考进行技术方案的改造升级和迁移，从而解决工作中的实际问题；
5. 具有对AI评测体系和架构、方法设计的经验和研究思考，具有对针对评测对象和目标进行有效、合理、高质量数据集构建、治理的经验和研究思考；
6. 有对现代AI模型（如世界模型）的评测方法的研究和实际经验，具有针对具体模型进行量身定做相应的评测基准与工具的项目经历和研究及思考；
7. 基于实际的业务和上下文场景，针对智能辅助驾驶的AI模型进行科学分析和总结，提出科学的评测指标和切实可行的方法；
8. 熟悉智能辅助驾驶相关的核心模型的工作原理和上下游信息特征，具备探索现代AI技术能力在多模态和决策、规划等方面的评测技术，推动智能辅助驾驶安全评测评估的落地与价值呈现；
优选条件：
1. 有统计学、数学建模的能力，有智能辅助驾驶风险量化评估的及经验者优先；
2. 有智能辅助驾驶仿真工具链置信度、可复现度评估和分析的经验者优先；
3. 具有风险场景泛化、加速测试、对抗生成、交通流仿真经验者优先；
4. 具有预期功能安全相关实践经验者优先;
5. 对时序类多模态数据的场景有相关工作和研究经验;
6. 有场景平台或者数据平台产品化工程落地经验者优先。
7. 有AI开发相关经验，参与或主导过AI安全评测框架/攻防/鲁棒性挑战赛等项目优先；
8. 有丰富的开源贡献或高质量论文（如ICCV、NeurIPS、ICLR等）优先；
9. 在AI安全和鲁棒性领域有项目落地经验，能熟练应用对抗样本、鲁棒性测试、可解释性分析等技术者优先
10. 了解智能辅助驾驶相关安全标准和法规，如ISO 26262、ISO 21448、ISO PAS 8800等，能结合法规需求设计测试分析策略。 投递