Job Description
大模型端侧推理实习生北京实习互联网 / 电子 / 网游职位描述
1. 负责大模型在端侧推理的SDK研发;
2. 负责大模型与端侧平台的高效适配与推理优化;
3. 参与端侧大模型研发的整体规划,协同配合大模型端侧落地
职位要求
1. 硕士学历(优秀者本科亦可),计算机类专业,基础知识扎实
2. 有较强的工程能力、创新能力、学习能力;
3. 熟悉C++编程,掌握Git、CMake等常见工具,有良好的软件工程习惯;
4. 熟悉一种或多种端侧部署框架或工具链,如QNN、llama.cpp、Metal等;
5. 熟练阅读英文文档;
6. 有端侧算法落地、移动端开发经验优先。 投递