AI Infrastructure Engineer
Tec-Tec
- Location
- Guangzhou
- Level
- Mid
- Posted
- Date not listed
MidOn-siteActive
Original posting
Skills
- LLM
- PyTorch
Summary
岗位职责 【你的角色与职责】 1、模型工程与服务化: 参与“钛极大模型”推理服务架构的建设,协助完成模型从部署上线到生命周期管理的全流程,保障高并发下的API服务稳定性。 2、极致性能优化挑战: 参与探索大模型推理加速技术,协助进行模型量化、蒸馏、算子融合等工作,挑战推理延迟与成本的物理极限。 3、AI基础设施建设: 参与云原生MLOps平台与工具链的开发,包括模型CI/CD、在线实验(A/B测试)平台、GPU资源调度系统的研发。 4、软硬协同与业务赋能: 与算法团队紧密合作,从系统工程的角度解决模型训练与推理中的性能瓶颈,确保AI能力顺畅支撑广告营销等高并发业务线。 岗位要求 【我们希望你具备】 1、2026届/2025应届毕业生,计算机科学、软件工程或相关专业本科及以上学历。 2、编码达人: 精通 Python / Go / Java / C++ 中的至少一种,具备扎实的计算机体系结构、操作系统、网络和并发编程基础。 3、系统思维: 熟悉或了解Docker、Kubernetes (K8s) 等云原生技术栈,对解决复杂的系统级问题(高并发、高可用)充满好奇心。 4、技术底层求知欲: 了解主流深度学习框架(如PyTorch, TensorFlow)的底层机制,或对模型训练和推理过程有一定认知。 【加分项】 1、搜推广工程/高并发系统实习经验:…
Full description
岗位职责 【你的角色与职责】 1、模型工程与服务化: 参与“钛极大模型”推理服务架构的建设,协助完成模型从部署上线到生命周期管理的全流程,保障高并发下的API服务稳定性。 2、极致性能优化挑战: 参与探索大模型推理加速技术,协助进行模型量化、蒸馏、算子融合等工作,挑战推理延迟与成本的物理极限。 3、AI基础设施建设: 参与云原生MLOps平台与工具链的开发,包括模型CI/CD、在线实验(A/B测试)平台、GPU资源调度系统的研发。 4、软硬协同与业务赋能: 与算法团队紧密合作,从系统工程的角度解决模型训练与推理中的性能瓶颈,确保AI能力顺畅支撑广告营销等高并发业务线。 岗位要求 【我们希望你具备】 1、2026届/2025应届毕业生,计算机科学、软件工程或相关专业本科及以上学历。 2、编码达人: 精通 Python / Go / Java / C++ 中的至少一种,具备扎实的计算机体系结构、操作系统、网络和并发编程基础。 3、系统思维: 熟悉或了解Docker、Kubernetes (K8s) 等云原生技术栈,对解决复杂的系统级问题(高并发、高可用)充满好奇心。 4、技术底层求知欲: 了解主流深度学习框架(如PyTorch, TensorFlow)的底层机制,或对模型训练和推理过程有一定认知。 【加分项】 1、搜推广工程/高并发系统实习经验: 曾在互联网大厂参与过大规模广告/推荐系统工程架构、高并发在线服务、核心中间件研发实习的同学优先。 2、AI加速实战: 熟悉或在实验室/实习中使用过模型推理加速框架(如SGlang, vLLM, TensorRT, ONNX Runtime, Triton)。 3、底层硬核技术: 有CUDA编程经验,或对NVIDIA GPU底层架构、高性能计算(HPC)有深入了解。 4、开源贡献: 知名开源项目(尤其是AI Infra或云原生领域)的活跃贡献者。 牛客安全提示:如发现虚假招聘、广告,或以任何名义索要证件、费用,或诱导异地入职、参与培训等均属违法行为,发现请 立即举报 举报 取 消 确 定 发私信 取消 发送 完善信息 钛动科技股份有限公司 企业服务 未融资 广州市 查看其他 1 个职位 0 笔试题目 0 面试经验 0 面试短评 刷真题、补算法、看面经、得内推 扫一扫,把题目装进口袋 移动版 关于我们 加入我们 意见反馈 企业服务 校企合作 联系我们 免责声明 友情链接 资源导航 付费咨询 扫描二维码,进入QQ群 扫描二维码,关注牛客公众号 公司地址:北京市朝阳区北苑路北美国际商务中心K1座一层-北京牛客科技有限公司 联系方式:010-60728802 投诉举报电话:010-57596212(朝阳人力社保局) 牛客科技©2026 All rights reserved admin@nowcoder.com 京ICP备14055008号-4 增值电信业务经营许可证 营业执照 人力资源服务许可证 京公网安备 11010502036488号