ModelBest

端侧智能软件开发工程师

ModelBest  •  Onsite  •  2 hours ago
Apply
AI can make mistakes so check important info. Chat history is never stored.

Job Description

端侧智能软件开发工程师
北京
社招
全职
技术 - 开发
职位 ID:A216933
职位描述
岗位职责概括:构建高性能、可靠的端侧(Edge)智能软件栈与 AI Agent 运行框架,使模型与智能体在资源受限设备(机器人、本车、边缘盒子、可穿戴、工业终端等)上实现低时延、稳定、可扩展的智能行为。
主要工作内容(可选以下的一种或多种):
1. 端侧智能系统开发
- 负责 AI Agent 在端侧的整体软件架构设计与模块实现(感知、规划、决策、工具调用、记忆管理等)。
- 设计与实现多模态数据(视频/语音/传感器)采集、缓存、预处理管线。
2. 模型部署与性能优化
- 将 NLP / CV / 多模态 / 具身策略模型在端侧芯片(如 NVIDIA Jetson、瑞芯微、Qualcomm、MTK 等之一)上进行移植、裁剪、量化、算子优化与内存/带宽调优。
- 使用某种端侧推理框架(如TensorRT / ONNX Runtime / TFLite / Llama.cpp/ MNN / 其他 NPU SDK等)进行推理部署和性能调优。
3. AI Agent 框架能力建设
- 设计工具调用与任务编排机制(如多任务调度、上下文工程、状态恢复、边云协同策略)。
- 实现模型热更新、分层缓存、轻量推理隔离与资源监控。
4. 系统工程与稳定性
- Linux 下的服务化部署、容器化(Docker/OCI)或轻量进程管理;故障检测、日志采集、Profiling、持续集成。
- 性能指标体系:时延、功耗、内存、启动时间、鲁棒性。
5. 与跨团队协作
- 与算法团队协作定义模型输入输出协议与推理接口。
- 支持自动驾驶感知/规划模块或具身机器人行为控制模块的快速集成与验证。
6. 前沿探索与迭代
- 跟踪端侧模型压缩、Agent 框架、具身智能策略训练的新技术,并完成技术预研与 PoC。
职位要求
必需能力项:
1. 本科及以上学历,计算机/软件/人工智能/自动化/电子信息/机器人等相关专业优先;
2. 3年及以上相关研发经验(端侧 AI / 嵌入式智能 / 机器人软件 / 自动驾驶系统等);
3. 精通 C++(熟悉 C++14/17 标准、内存管理、多线程/同步机制、性能调优);熟练掌握 Linux 环境开发、调试、性能分析(gdb, perf, valgrind, strace, flame graph 等);熟悉 Python(用于工具脚本、快速验证、训练到部署 pipeline);
4. 对人工智能、具身智能(Embodied AI)、自主决策系统有强烈兴趣,具备自我学习与快速试错迭代能力;
加分能力项:
1. 实际熟悉至少一种主流端侧 / 嵌入式智能芯片平台(例如 Jetson、昇腾、地平线、瑞芯微、Qualcomm、Apple Neural Engine、寒武纪 或自研 NPU),理解其计算/内存/IO 特性;
2. 具备模型转换(PyTorch → ONNX → 推理引擎等)、量化/裁剪/算子调优实践经验;
3. 理解 Agent 框架基本要素(环境交互、工具调用、中间记忆、上下文管理),有实际工程落地或 Demo 构建经验;
4. 有良好的代码规范、模块化设计能力、单元测试与持续集成意识;
5. 逻辑清晰,能跨团队推动需求落地;
投递
ModelBest

About ModelBest

ModelBest established in August 2022, is an Artificial Intelligence technology company headquartered in Beijing, China. The company is deeply rooted in the field of general AI, with a focus on the innovation and application transformation of large-scale models. ModelBest boasts a prestigious founding R&D team from the Tsinghua in the AI field. Leveraging numerous cutting-edge technologies in natural language processing, the company is currently constructing a large-scale pre-trained model library and corresponding tools, aiming to standardize the technology and applications of large models.

Based on the capabilities of the CPM series of large models, ModelBest has successfully facilitated the intelligent upgrade and efficiency enhancement of various industries. Moreover, the company has released a multi-modal dialog assistant with hundreds of billions of parameters, “Luca", to the public. Adhering to the core philosophy of "intelligence encompassing all", we look forward to exploring and expanding unknown possibilities with global partners, aiming to ensure AI technology serves humanity for a better life in a safe and inclusive manner, laying a solid foundation for the advent of the AGI world.

OpenBMB (Open Lab for Big Model Base,https://github.com/OpenBMB), founded by ModelBest Inc & TsinghuaNLP, aims to build foundation models and systems towards AGI.

Industry
Biotech & Life Sciences
Company Size
11-50 employees
Headquarters
Beijing, CN
Year Founded
2022
Social Media