得物App

【算法】AI工程架构专家(大模型推理加速方向)

得物App  •  Onsite  •  9 hours ago
Apply
AI can make mistakes so check important info. Chat history is never stored.

Job Description

【算法】AI工程架构专家(大模型推理加速方向)

上海、杭州

全职

研发 - 后端开发

技术类

职位描述

1,负责开发和优化大模型推理优化和CV/NLP等模型推理; 2,持续优化大模型推理服务性能,提升吞吐,降低延迟并优化整体成本; 3,负责机器学习系统前瞻技术的调研和引入;

职位要求

1,精通Python,精通算法与数据结构,熟悉C/C++; 2,有深度学习应用加速和优化的经验,熟悉常见的加速技术,如剪枝、量化、分布式推理等,并能够根据不同场景和硬件平台进行针对性的优化; 3,熟悉LLM主流推理引擎,如TensorRT-LLM、vLLM等,熟悉常见的推理优化方法,如FlashAttention、PageAttention、Continuous Batching、Speculative Decoding等; 4,具备良好的沟通和团队合作能力,能够与跨功能团队密切合作,解决问题并实现共同目标; 5,熟悉 GPU硬件结构,熟悉TensorRT/Triton,有 CUDA开发、优化经验者优先。

投递

得物App

About 得物App

得物App致力于打造全球领先的新一代潮流网购社区。

正品潮流电商和潮流生活社区是平台的两大核心服务。得物App在传统电商模式的基础上添加"鉴别服务",推出了"先鉴别,后发货"的购物流程,为国内的年轻消费者带来全新的购物体验,让用户可以放心购买到品类丰富的经鉴别为正品的潮流商品。目前得物App的商品品类已经覆盖潮鞋、服饰、手表、配饰、潮玩、3C数码、家居家电、美妆、汽车等 。

同时作为年轻⼈的潮流生活社区,得物App聚集了一大批热爱球鞋、潮品穿搭和潮流文化的爱好者 ,通过持续沉淀潮流话题内容,得物App正在成为年轻用户的潮流风向标和发声阵地。

Industry
IT & Software
Company Size
501-1,000 employees
Headquarters
Shanghai, CN
Year Founded
2015
Website
dewu.com
Social Media