Job Description
【27届】基座大模型算法工程师(VLM/LLM方向)
深圳、北京
研发 - 算法
27届校园招聘
职位描述
面向物理世界和机器人场景,研发具备语言、视觉、知识与推理能力的通用基座大模型,为多模态理解、空间认知、任务规划、人机交互及 VLA 等下游能力提供统一的模型底座。 候选人可重点负责以下一个或多个方向: 1. 参与 LLM/VLM 基座模型的架构设计、训练与迭代,持续提升模型在通用理解、视觉感知、知识、推理、长上下文及复杂任务处理等方面的能力; 2. 研究视觉编码器、多模态对齐与融合、视觉 Tokenization/压缩、动态分辨率、图像与视频表征等关键技术,提升模型对复杂真实世界的感知和认知能力; 3. 参与模型预训练、中期训练及后训练,包括 SFT、偏好优化、强化学习、知识蒸馏等方法的研究与规模化验证; 4. 建设高质量的大模型数据体系,围绕文本、图像、视频等数据开展采集、清洗去重、质量建模、数据配比、合成数据和课程学习等工作; 5. 搭建科学、多维度的模型评测体系,结合公开 Benchmark、真实场景数据和失败案例分析,定位模型能力边界并驱动针对性迭代; 6. 参与大规模模型训练和实验体系建设,与 Infra 团队协作解决训练稳定性、计算效率、显存利用、分布式扩展和实验可复现性等问题; 7. 推动基座模型在空间理解、视频理解、视觉推理、任务规划、Agent、机器人交互等场景中的验证,为具身智能模型提供通用的理解与推理能力; 8. 跟踪 LLM、VLM、多模态学习及生成式模型等前沿进展,推动有价值的研究成果快速完成实验验证和模型落地。
职位要求
- 计算机科学、人工智能、自然语言处理、计算机视觉、数学、自动化等相关专业本科及以上学历,硕士、博士优先; 2. 具备扎实的机器学习和深度学习基础,理解 Transformer、Attention、生成式模型及大模型训练的基本原理; 3. 在以下至少一个方向具备较扎实的研究或工程经验: - LLM 预训练、训练策略或模型架构; - VLM/多模态模型、视觉编码器或跨模态对齐; - SFT、偏好优化、RLHF/RLVR 等后训练方向; - 大规模训练数据处理、数据策略或合成数据; - 模型评测、能力分析或 Benchmark 建设; 4. 熟练使用 Python 和 PyTorch,具备良好的算法实现、代码调试和工程开发能力,熟悉 Linux 及常见开发工具; 5. 能够独立完成问题拆解、方案设计、模型训练、实验分析和结果迭代,对数据质量、实验严谨性和结果可复现性有较高要求; 6. 具备良好的英文文献阅读和技术调研能力,能够快速理解前沿论文与开源代码,并形成自己的判断; 7. 具备较强的学习能力、执行力和责任心,能够在开放问题和不确定目标下持续推进工作; 8. 具备良好的沟通协作能力,能够与数据、Infra、机器人算法及产品团队高效配合。 加分项 1. 有 LLM/VLM 基座模型完整预训练或后训练经验,参与过较大规模模型的主线版本迭代; 2. 熟悉 Megatron-LM、DeepSpeed、FSDP 等分布式训练框架,有多机多卡训练和性能优化经验; 3. 在图像/视频理解、空间推理、OCR/文档理解、多模态 Agent 或物理世界理解等方向有深入项目经验; 4. 有大规模多模态数据管线、质量评估、数据配比、合成数据或数据消融分析经验; 5. 有机器人学习、具身智能、VLA 或真实机器人场景相关经验; 6. 在 NeurIPS、ICML、ICLR、CVPR、ICCV、ACL、EMNLP、CoRL 等会议发表过相关论文,或有高质量开源项目、竞赛获奖及行业影响力成果。
投递