Job Description

深度学习平台研发工程师（agent方向）

广州

全职

通用智能板块

职位描述

【职位描述】 主导建设公司级 Agent 平台，打造统一的 Agent 开发、部署、运行与管控基础底座，为全公司算法和业务团队提供标准化、多租户、高可用的 Agent 服务能力，支撑各类 Agent 应用规模化落地。团队方向覆盖算力调度、训练、推理、Agent 四大方向，本岗位核心方向为 Agent。 【主要职责】 1. 负责公司级 Agent 平台的系统架构设计和研发工作，打造统一的 Agent 开发、部署、运行和管控平台，提供多租户、可观测、可治理的标准化服务，支撑各业务线 Agent 应用规模化落地 2. 建设 Agent 平台核心能力：模型接入与统一网关、Function Calling / MCP 工具生态、长会话与记忆管理、安全沙箱执行环境、多 Agent 编排与评测体系，沉淀公司级 Agent 基础设施 3. 负责大模型的部署与调优：基于 Kubernetes 等云原生技术栈完成大模型服务的部署、发布、灰度与弹性伸缩，开展线上性能调优（吞吐、时延、资源利用率），保障 Agent 平台底层模型服务的高效稳定运行 4. 负责 Agent 平台的可观测性与稳定性建设（监控、告警、排障、容错），制定平台技术标准，主导线上性能调优与 SLO 保障 5. 持续运营改进平台性能、易用性和稳定性，与各业务团队紧密协作，推动公司级 Agent 平台的标准统一与技术演进 【基本资格】 1. 计算机科学、工程或相关领域的学士学位 2. 熟悉 Linux 开发环境，掌握 Golang / Python 等语言，具备良好的代码规范意识和文档编写能力 3. 熟悉云原生网络相关技术，如 Istio、Higress 等服务网格与 API 网关，具备相关实战或二次开发经验 4. 熟悉 Agent 与大模型应用开发技术栈，如 Function Calling、MCP、RAG、LangChain / LangGraph 等，有 LLM 应用或平台相关开发经验 5. 熟悉微服务、数据库、分布式系统、缓存技术、消息队列等相关技术 6. 具备较强的解决问题能力，热爱技术，有较强的自我驱动学习能力，持续关注 Agent 与大模型领域的前沿技术发展 【期望资格】 1. 相关领域的硕士学位 2. 熟悉主流推理框架 vLLM / SGLang / TensorRT-LLM 的架构与实现，深入理解 Continuous Batching、PagedAttention、PD 分离、投机解码等核心技术，有推理性能优化（吞吐 / 时延 / 显存 / 成本）方向的项目经验，能为 Agent 平台提供高性能推理底座 3. 参与过 AI Infra 相关项目，熟悉 FlashAttention、DLRover、AIBrix 等社区项目 4. 具备大规模 GPU 集群的研发和实践经验，了解通用 GPU 架构、GPU 虚拟化、RDMA 高速网络和分布式存储技术

职位要求

投递