AI Infra研发工程师

方向 1‑训推系统 1. 在昇腾平台开展大模型训推端到端性能优化，针对 Transformer、MoE、多模态模型做性能分析，优化训练吞吐、推理时延与硬件利用率，支撑千亿大模型训练与规模化部署。 2. 建设 Prefill/Decode、KV Cache 管理、连续批处理、动态调度、低时延高吞吐推理、量化低精度推理等推理核心能力。 3. 研发分布式并行策略与集合通信优化，包含数据 / 张量 / 流水 / 专家并行、通信计算重叠，推动 MoE、KV Offload、超节点通信技术落地。 方向 2‑算子技术 1. 完成 MatMul、Attention、MoE、RMSNorm、RoPE、KV Cache、量化算子等大模型核心算子开发与调优；基于昇腾芯片做 Tiling、访存、计算流水、算子融合、自动调优，构建高性能算子能力。 2. 迭代算子编程模型与算子框架，提升算子开发易用性，保障大模型计算模块高性能运行。 方向 3‑通用软件 1. 建设大模型训推软件栈，负责图编译优化、Runtime 调度、内存管理、算子框架、模型迁移、性能分析工具，打通模型‑框架‑编译器‑Runtime‑