Pony.ai

资深系统架构师 - 车载语音助手(AI Orchestration & Logic)-广州

Pony.ai  •  Remote  •  2 months ago
Apply
AI can make mistakes so check important info. Chat history is never stored.

Job Description

资深系统架构师 - 车载语音助手(AI Orchestration & Logic)-广州广州全职职位描述职位概览
我们正在为数万辆智能汽车打造下一代“车载大脑”。该产品每日承载千万级的语音交互请求,运行于高性能的车规级芯片平台,并深度集成大语言模型(LLM)能力。 作为业务大脑的架构师,你将专注于构建高并发、低延迟的 AI 编排层,在公司成熟的网关与基础架构(Infra)之上,设计一套能够精准识别意图、灵活调度模型、并能通过“快慢路径”极速响应用户指令的业务中枢,实现 AI 能力在车载场景下的完美落地。
核心职责 (Core Responsibilities)
1. AI 编排与对话引擎设计 (AI Orchestration)
- 业务中枢构建:主导 ASR-LLM-TTS 全链路的流式业务编排,确保端云协同下的整体交互延迟(TTFT)处于行业领先水平。
- 对话管理 (DM):设计并维护支持高并发的多轮对话状态机,处理复杂的上下文记忆、意图切换、任务中断与恢复逻辑。
- Agent 架构:构建基于 Agent 的任务规划系统,将模糊的语义请求转化为严谨的结构化指令(JSON),实现对车控、导航、媒体等 API 的精准调度。
2. 混合意图引擎与“快慢路径”设计 (Hybrid Intent Engine)
- 分流机制:设计“分类小模型(快路径)”与“LLM(慢路径)”的并行路由策略。针对高频车控指令实现毫秒级极速响应,无需等待大模型推理。
- 置信度仲裁:建立一套完善的指令仲裁与回滚策略,解决小模型误识别与 LLM 幻觉之间的冲突。
- 槽位提取优化:针对操作性指令设计轻量级的 NER(实体识别)与槽位填充能力,提升系统整体能效比。
3. 多模型路由与网关适配 (Model Gateway & Routing)
- 模型路由:构建统一的模型网关适配层,支持在多个外部 LLM 供应商(如 OpenAI, 文心, 千问等)与私有化模型之间进行动态切换与负载均衡。
- 降级与容灾:设计业务层的服务降级预案,确保在云端模型故障或弱网环境下,基础车控功能依然 100% 可用。
4. 工程卓越性与数据闭环 (Engineering Excellence)
- 协议定义:与 Infra 团队协作,定义高效的端云通信协议(基于 gRPC/Protobuf),优化中间文本与音频流的传输效率。
- 成本控制:通过语义缓存(Semantic Cache)、模型量化建议等手段,在大规模交互场景下显著降低 Token 消耗成本。职位要求必备条件
- 架构资历:8 年以上后端开发经验,3 年以上大型分布式系统架构经验。有处理过日均百万级交互或十万级并发连接业务逻辑的实战经验。
- 技术栈:精通 Go 或 Python,具备极强的高性能异步编程能力。
- AI 背景:深度理解 LLM 能力边界,熟悉 RAG 架构、Function Calling 以及 Prompt Engineering 的工程化落地。
- 协议理解:深刻理解 gRPC、HTTP/2 双向流通信,能够设计高性能的二进制传输契约。
核心素质
- 逻辑严谨:能够将复杂、模糊的用户对话场景拆解为清晰的状态转移图与逻辑流水线。
- 协作能力:能够作为业务方,向 Infra 团队精准提出对网关、存储、计算资源的定制化需求。
加分项 (Preferred Qualifications)
- 有智能音箱、语音机器人或车载 TSP 平台核心架构经验。
- 在端侧(Android/高通平台)有模型部署与推理优化(ONNX/TFLite)的跨端协作经验。
- 参与过知名 AI Agent 框架或分布式调度系统的开源贡献。
我们提供的挑战
- 规模化:直接负责数万台车辆的真实 AI 场景。
- 前沿性:在车机受限算力与云端强大算力之间,寻找 AI 落地的最佳架构平衡点。
- 影响力:你的每一行架构代码,都将直接影响众多自动驾驶出行用户的语音体验。 投递
Pony.ai

About Pony.ai

Pony AI Inc. (“Pony.ai”) is a global leader in the large-scale commercialization of autonomous mobility.

Leveraging its vehicle-agnostic Virtual Driver technology, full-stack autonomous driving technology that seamlessly integrates its proprietary software, hardware, and services, Pony.ai is developing a commercially viable and sustainable business model that enables the mass production and deployment of vehicles across transportation use cases.

Founded in 2016, Pony.ai has expanded its presence across China, Europe, East Asia, the Middle East, and other regions, ensuring widespread accessibility to its advanced technology.

Pony.ai is among the first in China to obtain licenses to operate fully driverless vehicles in all four Tier-1 cities in China (Beijing, Guangzhou, Shanghai, Shenzhen) and has begun to offer public-facing, fare-charging robotaxi services without safety drivers in Beijing, Guangzhou and Shenzhen. Pony.ai operates a fleet consisting of over 250 robotaxis.

To date, Pony.ai has driven nearly 45 million autonomous testing and operation kilometers on open roads worldwide.

Industry
IT & Software
Company Size
501-1,000 employees
Headquarters
Fremont, California
Year Founded
2016
Website
pony.ai
Social Media