Contact Us

AI Infra(训练推理方向)工程师/负责人

地点:上海

薪资:open

推荐奖:最高2w/人

关键词:AI infra

岗位职责
1. 制定公司 AI Infra 技术路线,负责训练与推理基础设施、算力集群与平台体系的整体规划与落地。
2. 搭建并管理 Infra 团队(训练框架、推理、SRE、平台),负责团队目标、分工与成长。
3. 负责分布式训练框架与集群调度优化,支撑千卡至万卡规模的大模型训练。
4. 建设推理平台,通过引擎优化、量化、调度等手段持续降低推理成本与延迟。
5. 建立稳定性与可观测性体系(高可用、容灾、监控告警),保障训练与服务的 SLA。
6. 负责算力采购、成本预算管理与国产算力适配的技术决策。
任职要求
1. 本科及以上(硕士优先),计算机 / 软件工程相关专业。
2. 8 年+ 基础设施 / 大规模集群经验,5 年+ 基础设施管理经验,3 年+团队负责人经验。
3. 深入理解 GPU 集群、分布式训练 / 推理、Kubernetes、资源调度与高性能计算。
4. 有稳定性治理实战:高可用、容灾、监控告警体系建设经验。
5. 具备云端大模型 / 基础设施全栈技术能力,有商业化或创新项目落地经验。
6. 创业心态:从 0 到 1 搭建体系、务实取舍、结果导向,能接受算力供给的不确定性并主动破局。
加分项:自建 GPU 集群与公有云混合架构经验;大模型训练 / 推理平台从 0 到 1;成本治理与降本增效量化成果。

Have a thing for this job? Go for it and apply today! You got this!