需要工程能力
阿里云智能-深度学习训练系统研发专家-北京，杭州
职位描述
●负责PAI平台深度学习框架的研发，包括但不局限于MoE模型大规模训练框架、多模态训练框架、RLHF训练框架等，支持包括通义实验室、阿里集团等不同领域方向；参与包括基模型Pretrain、SFT等多个阶段的训练任务优化；
●致力于提升不同阶段模型训练负载的极限吞吐，能够针对不同模型负载系统化的分析不同阶段耗时并提供相应的优化手段，优化手段包括但不局限于算子优化、通信优化、分布式策略优化等；
●负责超大规模训练任务的稳定性的设计，通过各种手段来提升训练任务的有效吞吐，构建更可靠的故障检测系统和自愈系统，提供超大规模训练任务的丝滑体验。
●参与训练框架对于不同硬件的支持和优化。
职位要求
●扎实的工程能力，优良的编程风格，熟悉Python/C++语言和常用设计模式，具备复杂系统的设计开发调试能力；
●熟悉深度学习的基础理论概念，熟悉Transformer架构，熟悉主流大语言模型、多模态模型等模型特点；
●熟练PyTorch等领域常用框架，掌握Megatron、DeepSpeed、JAX等不同训练框架的各自特点和细节；
●优良的沟通表达能力、团队合作意识和经验；具备快速学习的能力，以及深入钻研技术问题的耐心；
●熟悉计算机体系结构基础知识，有扎实异构计算优化(GPGPU/x86/ARM等)、高性能网络架构通信优化、分布式训练策略优化等方面的经验

阿里云智能-深度学习推理系统研发专家-北京；杭州；上海
职位描述
●设计和实现高效的分布式推理架构，提升多节点、多GPU环境下的推理速度和资源利用率。开发智能的请求调度算法，确保高并发场景下的最优响应时间和吞吐量。对推理引擎的运行时环境进行深度优化，减少延迟，提高整体性能。针对多种异构AI加速硬件（如NVIDIAGPU,AMDGPU,NPU等），对核心算子进行极致性能优化，最大化算力和访存带宽利用率。
●探索并实现极低bit量化技术和稀疏化，减少模型存储和计算资源消耗，同时保持推理精度。探索更高效的解码算法，提升生成任务的推理速度。
●设计并实现能够处理大规模并发请求的系统架构，确保极端负载下的稳定性和性能。引入容错机制、自动恢复和监控报警系统，保证系统的高可用性和稳定性。构建灵活的系统架构，支持动态扩展，以应对未来业务增长和技术演进的需求。
●持续关注并跟进业界技术发展，尤其是超长上下文、COT思维链、多模态融合等方向。积极尝试和探索新的推理优化方向，提出并验证创新性的解决方案。
职位要求
●扎实的工程能力，优良的编程风格，熟悉Python/C++语言和常用设计模式，具备复杂系统的设计开发调试能力。
●熟悉深度学习的基础理论概念，了解主流模型算法，能够熟练应用PyTorch、TensorFlow等框架。
●优良的沟通表达能力和团队合作经验，具备快速学习的能力，以及深入钻研技术问题的耐心。
●熟悉计算机体系结构基础知识，有扎实的高性能Kernel开发（CUDA/Triton/ROCM等）、推理引擎优化(vLLM/SGLang等)、模型算法优化（量化/稀疏等）、AI计算资源调度优化等方面的经验。

加分项：
●有突出的学术背景和创新研究能力，发表过相关领域的高水平论文或专利。
●有基于cutlass/cute开发和极致优化高性能Kernel并在实际生产环境落地的经验。
●对大型语言模型（LLM）等重点场景的系统优化或前沿算法有深入务实的经验。
●作为核心成员开发实际应用的大规模AI系统，或参与业界流行的开源项目，具备丰富的实战经验和成功案例。