Kaon (prev. FlowGPT)

AI工程师 - 平台

Kaon (prev. FlowGPT)  •  Beijing, CN (Onsite)  •  3 months ago
Apply
AI can make mistakes so check important info. Chat history is never stored.

Job Description

AI工程师 - 平台BeijingFull-timeIntelligent manufacturing / Industrial Internet / Industrial automation - R&DResponsibilities1. 负责公司核心AI平台的架构设计、研发与持续演进,支撑多业务线稳定高效运行。
2. 参与平台化、服务化、组件化建设,沉淀通用平台能力
3. 负责高并发、高可用系统的设计与实现,持续优化性能、稳定性与成本。
4. 参与 大模型平台 / 模型网关(LLM Gateway) 建设,包括但不限于:
- 多模型接入与统一抽象
- 请求路由、模型调度、版本与能力管理
- 配额、限流、计费、审计等平台能力
5. 参与GPU / 推理资源调度与管理相关后端逻辑:
- 资源分配与隔离
- 并发控制、队列、优先级、回退策略
- 成本、利用率与稳定性优化
6. 参与数据库与存储方案设计(关系型 / NoSQL / 缓存 / OLAP),解决数据一致性与扩展性问题。
7. 对线上问题进行定位和根因分析,建立系统化的稳定性治理机制。Qualifications1. 本科及以上学历,计算机相关专业,3 年及以上后端开发经验。
2. 扎实的计算机基础:
- 数据结构与算法
- 操作系统、计算机网络
- 常见设计模式
3. 精通至少一门后端语言:
- Go / Java / Rust / Python
4. 熟悉常见后端架构:
- REST / RPC(gRPC、Thrift 等)
- 微服务架构
5. 熟悉常用中间件:
- 数据库:MySQL / PostgreSQL
- 缓存:Redis
- 消息队列:Kafka / Pulsar / RabbitMQ
6. 具备良好的系统设计能力,能够独立完成模块或子系统设计。
加分项
1. 有大模型平台 / 模型调度 / 推理服务相关经验者优先,包括但不限于:
- 类似 OpenRouter / LLM Gateway / Model Proxy 的系统
- 多模型路由、Fallback、灰度、限流
2. 有大数据基础设施建设经验者优先,包括但不限于:
- 数据平台 / 数据湖 / 数据仓库
- Flink / Spark / Kafka 等生态
- 数据服务化、元数据、权限治理
4. 熟悉云原生技术:
- Docker、Kubernetes
- Helm / Operator
5. 熟悉可观测性体系:
- Prometheus / Grafana
- OpenTelemetry
6. 有高并发、大流量、复杂系统的设计与优化经验。 Apply
Kaon (prev. FlowGPT)

About Kaon (prev. FlowGPT)

Bay Area–based company building an AI-native content platform.

Industry
Unknown
Company Size
11-50 employees
Headquarters
San Francisco
Year Founded
2023
Website
kaon.io
Social Media