Job Description

AI安全工程师

上海

正式

AI类

职位描述

工作职责 1.参与公司 AI 安全治理体系建设，包括 AI 工具准入、使用规范、数据分级、权限控制、日志审计、风险监控和违规处置机制。 2.参与企业内部 AI 工具、桌面助手、知识库、智能分身、流程 Agent、研发提效工具等场景的安全评估和风险识别。 3.参与 AI 应用的数据安全管控，识别敏感数据、研发资料、代码、图纸、客户信息、供应商信息、财务信息、绩效信息等在 AI 使用过程中的泄露风险。 4.参与 AI Agent 和工具调用安全设计，包括 MCP/API 权限边界、工具调用审计、操作留痕、最小权限控制、异常调用识别和人工兜底机制。 参与大模型应用安全测试，包括提示词注入、越权访问、敏感信息泄露、幻觉输出、错误执行、数据污染、RAG 检索越权等风险测试。 5.协助建立 AI 使用日志分析和风险监控能力，对外部 AI 使用、内部 AI 工具调用、敏感数据访问、异常行为进行分析和预警。 6.参与 AI 安全红线和使用规范制定，面向员工输出简单、清晰、可执行的 AI 安全使用指引。7.与 AI 架构、信息安全、IT、法务、内控、研发、制造、质量等团队协作，推动 AI 安全要求嵌入系统设计、工具上线和业务流程。 8.跟踪大模型安全、Agent 安全、数据安全、隐私保护、企业 AI 合规等方向的发展，持续完善公司 AI 安全能力。

职位要求

1.本科及以上学历，信息安全、网络空间安全、计算机、软件工程、人工智能、数据科学、自动化、电子信息等相关专业优先。 2.具备良好的计算机基础，理解操作系统、网络、数据库、Web 应用、API 调用、身份认证、权限控制等基本概念。 3.熟悉 Python / JavaScript / Java / Go / C++ 中至少一种编程语言，具备脚本开发、数据分析或安全工具开发能力者优先。 4.对大模型、AI Agent、RAG、知识库、Prompt Engineering、MCP/API、工具调用等 AI 应用技术有兴趣，并愿意持续学习。 5.了解常见安全风险，例如越权访问、敏感信息泄露、注入攻击、接口滥用、日志审计缺失、权限配置错误等。 6.具备较强的风险意识和逻辑分析能力，能够从业务流程、数据流转、系统权限和 AI 输出中识别潜在安全问题。 7.具备良好的沟通协作能力，能够把复杂安全问题转化为业务团队可以理解和执行的规则、方案和检查项。 8.做事认真细致，有责任心，能够在效率提升和安全边界之间找到合理平衡。

投递