8月10日下午,清华大学计算机系教授、中国工程院院士郑纬民应邀为我院师生作学术报告。报告会由毛启容院长主持,相关研究领域的教师、研究生参加了此次报告会。

此次报告的主题是人工智能大模型推理系统的研究与实践。报告首先介绍人工智能大模型生命周期的五个环节:数据获取,数据预处理,模型训练,模型微调和模型推理,详细介绍团队研发的用于大模型推理的Mooncake和KTransformers系统,重点讲解了如何解决大模型推理服务在系统层面的挑战,如何标准化问题,助力AI系统高效运行。
报告结束后,郑院士和与会师生进行了详细的交流探讨,对于师生提出的各种问题进行了耐心解答。郑纬民院士的报告站位高远、视野宏阔、内涵丰富,语言生动有趣、深入浅出,为在场师生带来了一场精彩纷呈的学术饕餮盛宴。