Agent Infra 工程师

1、负责AI推理系统设计与优化，包括深度学习模型的高性能推理服务设计与开发，使用 TensorRT、vLLM、Triton Inference Server 等工具进行推理加速与模型量化。 2、负责Agent系统架构设计与开发，构建基于LLM的 AI Agent 系统，包括任务规划、工具调用、记忆管理等核心模块。 3、负责性能优化与监控，对Agent系统进行延迟优化、并发控制、资源管理，构建Agent行为监控与日志系统。 4、紧跟顶会与业界前沿技术，面向业务场景做定制化改进与创新尝试。