Job Description

内容安全机审策略上海全职互联网 / 电子 / 网游风控类职位描述1. 机审策略构建与迭代： 负责全平台内容安全（涉黄、涉政、暴恐、违禁、黑产引流等）的机器审核策略。通过分析海量业务数据，制定、部署并优化风控拦截规则，平衡漏放率与误杀率。
2. 数据挖掘与特征工程： 基于亿级文本/图文/视频数据，熟练运用分类算法、聚类分析、特征分布检验 等统计机器学习方法，深度挖掘坏样本的变异特征与作弊模式。
3. AI Agent 搭建与落地： 探索并主导大模型（LLM）在内容审核场景的深度应用。利用现有框架（如 LangChain、Dify、Coze 等）设计并搭建自动化风控 Agent 工作流（例如：自动化抽检 Agent、复杂长文本意图判别 Agent、基于 RAG 的安全知识库问答 Agent等）。
4. 大模型赋能规则挖掘： 建设基于大模型的“策略推荐 Copilot”，利用 AI 辅助分析每日高危 Bad Case，自动聚类异常模式，并一键生成或推荐业务拦截规则代码。
5. 攻防体系与指标监控： 持续追踪黑灰产对抗手法，建立完善的策略监控大盘和预警机制；对线上机审规则进行 A/B 测试及效果评估。
职位要求1. 学历与背景： 本科及以上学历，计算机、数学、统计学、人工智能等相关专业；具备 3-5 年以上安全风控、内容审核策略、或数据挖掘相关工作经验。
2. 扎实的数据分析与算法底座：
- 精通 SQL 和 Python，具备海量数据处理能力。
- 深刻理解并能熟练应用传统机器学习算法，能够独立通过分类、聚类、时序分析、特征分布对比等手段，从无标签或弱标签数据中提炼有效的业务规则。
3. AI 大模型实操能力（核心必备）：
- 熟悉主流大模型（如 GPT-4、Claude、通义千问、Kimi 等）的能力边界与调用逻辑。
- 精通 Prompt Engineering（提示词工程），能够通过 CoT（思维链）解决复杂的逻辑判别问题。
- 具备 AI Agent 的实际搭建经验 ，了解大模型工具调用（Function Calling）、记忆机制与 RAG（检索增强生成）原理。
4. 业务 Sense 与自驱力： 对数据极度敏感，具备优秀的逻辑推导能力。能够将模糊的业务安全痛点，转化为清晰的数学问题或 Agent 任务流；具备极强的跨部门沟通协同能力。
【加分项】
1. 有内容安全体系从 0 到 1 建设经验 ，或熟知各平台（图文/短视频/直播）审核对抗策略者优先。
2. 了解或使用过开源大模型（如 Llama 3、Qwen）进行微调（SFT / LoRA）经验者优先。
3. 熟悉多模态大模型（VLM，如 GPT-4V），在图像或视频机审领域有落地经验者优先。 投递