01 / PROFILE
把复杂问题讲清楚,
也把工程细节做扎实。
目前在阿里云从事 AI Infra 相关工作,专注大模型推理系统的性能优化。我喜欢从底层机制出发理解系统,也通过写作整理技术脉络和实践经验。
工作之外,我也喜欢摄影与旅行。它们提醒我:好的观察往往先于好的答案。
02 / STACK
关注的技术方向
01
推理系统
SGLang · vLLM · TensorRT-LLM · KV Cache
02
GPU 性能
CUDA · Triton · FlashAttention · FlashInfer
03
模型优化
MoE · Speculative Decoding · PagedAttention
04
工程平台
Kubernetes · Docker · Linux · Cloud Native
03 / NOW
现在
阿里云 · AI Infra 工程师
从事大模型推理系统优化相关工作,并持续记录 AI Infra 领域的技术思考。
Let’s connect