个人简介

• 吕泓涛，博士三年级，上海交通大学并行与分布式系统研究所。在陈海波教授和吴明瑜老师的指导下，当前主要研究方式是语言运行时，分布式系统与大模型推理系统。

学术经历

• 2019.09 - 2023.07，中国科学技术大学，计算机科学与技术学院，本科生
• 2023.8 - 至今， 上海交通大学，软件学院，博士

研究方向

• 语言运行时
• 分布式系统
• 大模型推理系统

研究项目

• SLO-Aware LLM Serving

  LLM推理调度系统，在感知SLO需求时调节请求间的算力配给，并结合负载均衡器协同设计，实现更加公平的高质量LLM推理。

• Disaggregated-GC

  解耦式的低干扰并发垃圾回收器，通过解耦GC与Java应用，显著降低并发GC对应用造成的性能干扰，显著提高应用服务质量。

• SNIC-Serializer

  基于智能网卡的Java序列化加速器，通过硬件卸载加速Java分布式应用的序列化过程，提高分布式应用性能。

获奖情况

• 中国科学技术大学优秀毕业生