游戏AI-高性能推理系统研发工程师
Tencent
游戏AI-高性能推理系统研发工程师
Job Description
游戏AI-高性能推理系统研发工程师
📋 Job Overview
The role involves developing high-performance inference systems for game AI on Tencent's 'Kaiwu' platform, focusing on AIGC and LLM training/inference support. Responsibilities include designing and optimizing GPU-based high-performance computing projects, enhancing frameworks like vLLM and SGLang, and implementing efficient operators and algorithms. The position also entails exploring cutting-edge technologies such as MoE models and dynamic computation graph optimizations to advance AI engineering efficiency.
📍 Location: Shenzhen, China
🏢 Business Unit: TEG
📄 Full Description
2.针对大模型推理、训练等场景，优化和扩展vLLM、SGLang等框架的核心模块，提升计算效率与资源利用率；
3.深入分析GPU硬件架构特性（如Tensor Core、显存带宽、通信机制等），设计并实现高性能算子与算法；
4.探索前沿技术方向（如混合专家模型MoE、动态计算图优化等），推动AI工程化落地的效率提升。
🎯 Key Responsibilities
- 负责腾讯“开悟”平台的AIGC及LLM的训练/推理支持，参与基于GPU的高性能计算（HPC）项目设计与开发，负责GPU芯片（NVIDIA/AMD等）的底层性能优化与调优
- 针对大模型推理、训练等场景，优化和扩展vLLM、SGLang等框架的核心模块，提升计算效率与资源利用率
- 深入分析GPU硬件架构特性（如Tensor Core、显存带宽、通信机制等），设计并实现高性能算子与算法
- 探索前沿技术方向（如混合专家模型MoE、动态计算图优化等），推动AI工程化落地的效率提升
🛠️ Required Skills
- GPU高性能计算（HPC）项目设计与开发
- GPU芯片（NVIDIA/AMD等）的底层性能优化与调优
- 优化和扩展vLLM、SGLang等框架的核心模块
- GPU硬件架构特性分析（如Tensor Core、显存带宽、通信机制）
- 高性能算子与算法设计与实现
- 前沿技术探索（如混合专家模型MoE、动态计算图优化）
Locations
- Shenzhen, China
Salary
300,000 - 800,000 CNY / yearly
Source: ai estimated
* This is an estimated range based on market data and may vary based on experience and qualifications.
Skills Required
- GPU高性能计算（HPC）项目设计与开发intermediate
- GPU芯片（NVIDIA/AMD等）的底层性能优化与调优intermediate
- 优化和扩展vLLM、SGLang等框架的核心模块intermediate
- GPU硬件架构特性分析（如Tensor Core、显存带宽、通信机制）intermediate
- 高性能算子与算法设计与实现intermediate
- 前沿技术探索（如混合专家模型MoE、动态计算图优化）intermediate
Responsibilities
- 负责腾讯“开悟”平台的AIGC及LLM的训练/推理支持，参与基于GPU的高性能计算（HPC）项目设计与开发，负责GPU芯片（NVIDIA/AMD等）的底层性能优化与调优
- 针对大模型推理、训练等场景，优化和扩展vLLM、SGLang等框架的核心模块，提升计算效率与资源利用率
- 深入分析GPU硬件架构特性（如Tensor Core、显存带宽、通信机制等），设计并实现高性能算子与算法
- 探索前沿技术方向（如混合专家模型MoE、动态计算图优化等），推动AI工程化落地的效率提升
Tags & Categories
Answer 10 quick questions to check your fit for 游戏AI-高性能推理系统研发工程师 @ Tencent.
Related Books and Jobs
游戏AI-高性能推理系统研发工程师
Tencent
游戏AI-高性能推理系统研发工程师
Job Description
游戏AI-高性能推理系统研发工程师
📋 Job Overview
The role involves developing high-performance inference systems for game AI on Tencent's 'Kaiwu' platform, focusing on AIGC and LLM training/inference support. Responsibilities include designing and optimizing GPU-based high-performance computing projects, enhancing frameworks like vLLM and SGLang, and implementing efficient operators and algorithms. The position also entails exploring cutting-edge technologies such as MoE models and dynamic computation graph optimizations to advance AI engineering efficiency.
📍 Location: Shenzhen, China
🏢 Business Unit: TEG
📄 Full Description
2.针对大模型推理、训练等场景，优化和扩展vLLM、SGLang等框架的核心模块，提升计算效率与资源利用率；
3.深入分析GPU硬件架构特性（如Tensor Core、显存带宽、通信机制等），设计并实现高性能算子与算法；
4.探索前沿技术方向（如混合专家模型MoE、动态计算图优化等），推动AI工程化落地的效率提升。
🎯 Key Responsibilities
- 负责腾讯“开悟”平台的AIGC及LLM的训练/推理支持，参与基于GPU的高性能计算（HPC）项目设计与开发，负责GPU芯片（NVIDIA/AMD等）的底层性能优化与调优
- 针对大模型推理、训练等场景，优化和扩展vLLM、SGLang等框架的核心模块，提升计算效率与资源利用率
- 深入分析GPU硬件架构特性（如Tensor Core、显存带宽、通信机制等），设计并实现高性能算子与算法
- 探索前沿技术方向（如混合专家模型MoE、动态计算图优化等），推动AI工程化落地的效率提升
🛠️ Required Skills
- GPU高性能计算（HPC）项目设计与开发
- GPU芯片（NVIDIA/AMD等）的底层性能优化与调优
- 优化和扩展vLLM、SGLang等框架的核心模块
- GPU硬件架构特性分析（如Tensor Core、显存带宽、通信机制）
- 高性能算子与算法设计与实现
- 前沿技术探索（如混合专家模型MoE、动态计算图优化）
Locations
- Shenzhen, China
Salary
300,000 - 800,000 CNY / yearly
Source: ai estimated
* This is an estimated range based on market data and may vary based on experience and qualifications.
Skills Required
- GPU高性能计算（HPC）项目设计与开发intermediate
- GPU芯片（NVIDIA/AMD等）的底层性能优化与调优intermediate
- 优化和扩展vLLM、SGLang等框架的核心模块intermediate
- GPU硬件架构特性分析（如Tensor Core、显存带宽、通信机制）intermediate
- 高性能算子与算法设计与实现intermediate
- 前沿技术探索（如混合专家模型MoE、动态计算图优化）intermediate
Responsibilities
- 负责腾讯“开悟”平台的AIGC及LLM的训练/推理支持，参与基于GPU的高性能计算（HPC）项目设计与开发，负责GPU芯片（NVIDIA/AMD等）的底层性能优化与调优
- 针对大模型推理、训练等场景，优化和扩展vLLM、SGLang等框架的核心模块，提升计算效率与资源利用率
- 深入分析GPU硬件架构特性（如Tensor Core、显存带宽、通信机制等），设计并实现高性能算子与算法
- 探索前沿技术方向（如混合专家模型MoE、动态计算图优化等），推动AI工程化落地的效率提升
Tags & Categories
Answer 10 quick questions to check your fit for 游戏AI-高性能推理系统研发工程师 @ Tencent.
Related Books and Jobs