【源点顶尖人才计划】AI Infra工程师-推理方向(A07928)

【源点顶尖人才计划】是百川智能面向顶尖校园科技人才的招聘项目，包括应届生与实习生。重点寻找在大模型、AI Infra、Agent、产品等方向具备突出能力、强烈技术热情和长期成长潜力的同学。项目提供真实的医疗 AI 应用场景、前沿技术问题和高密度技术协作，鼓励优秀人才在百川参与重要模型与产品建设，共同成为下一代智能的源点！ 1、 参与大模型推理引擎与高并发在线服务的研发、部署与极致性能优化，支撑百万级 QPS 的稳定服务； 2、研究并落地量化、蒸馏、稀疏化、投机解码、KV Cache 管理等推理优化技术； 3、深度分析算子、计算、通信与显存瓶颈，持续优化吞吐、首 Token 时延、端到端时延、显存占用与单位 Token 服务成本； 4、开发高性能 CUDA 算子与推理内核，适配新一代硬件架构，探索非 Transformer 模型的高效推理方案； 5、建设弹性扩缩容、流量调度、故障自愈与全链路可观测体系，保障线上推理服务的高性能、高质量与高可用性。