微信小程序-大模型infra工程师-Coding方向
Tencent
- Location
- Guangzhou
- Level
- Not listed
- Posted
- 28 Oct 2026
ML engineeringOn-siteActive
Original posting
Skills
- LLM
- vLLM
- Inference
- Distributed Training
- Agent
Summary
1.负责分布式训练基础设施的建设、优化与维护，优化训练过程中的显存管理、计算资源调度与分布式通信效率，提升训练速度与资源利用率，支撑算法研发与模型训练； 2.负责微信小程序 Coding Agent 场景下 LLM 推理服务的建设与优化，涵盖 vLLM / SGLang 等框架适配、请求调度、KV Cache 管理、Prefill-Decode 分离、长上下文推理、投机解码等核心能力建设； 3.负责 GPU 资源管理，通过资源精细化分配和灵活调度提升整体利用率。
Full description
1.负责分布式训练基础设施的建设、优化与维护，优化训练过程中的显存管理、计算资源调度与分布式通信效率，提升训练速度与资源利用率，支撑算法研发与模型训练；
2.负责微信小程序 Coding Agent 场景下 LLM 推理服务的建设与优化，涵盖 vLLM / SGLang 等框架适配、请求调度、KV Cache 管理、Prefill-Decode 分离、长上下文推理、投机解码等核心能力建设；
3.负责 GPU 资源管理，通过资源精细化分配和灵活调度提升整体利用率。