企业微信-高级研发工程师-大模型推理框架（成都/北京）
Tencent
- Location
- Guangzhou
- Level
- Senior
- Posted
- 4 Nov 2026
ML engineeringSeniorOn-siteActive
Original posting
Skills
- LLM
- Inference
- Distributed Training
Summary
1.研发及优化大模型推理引擎、PD分离推理调度系统，提升大规模分布式推理系统的整体效率； 2.支持主流GPU和异构AI芯片，优化大模型推理性能，打造极致性能成本优势。
Full description
1.研发及优化大模型推理引擎、PD分离推理调度系统，提升大规模分布式推理系统的整体效率；
2.支持主流GPU和异构AI芯片，优化大模型推理性能，打造极致性能成本优势。