金枪鱼之夜:vLLM: 简单、高效、低成本的大模型推理框架

时间: 2025-10-25 19:00-21:00 地点: 三教 3300 tunight vllm

2025-10-23 更新:活动地点改为 三教 3300


大模型时代,如何用更少的资源、更低的成本部署更大的模型,对个人开发者和企业都是非常重要的话题。vLLM 是一个高效且易用的大语言模型(LLM)推理和部署框架,短短两年已经得到了广泛的应用。TUNA 邀请了 vLLM 核心维护者游凯超,他将和我们分享

  • vLLM 项目的发展历程、使用方法
  • vLLM 的设计理念,推理优化和加速技术
  • vLLM 背后的开源社区 vllm-project
  • vLLM 框架中的最新特性,以及未来的发展路线

vLLM 项目地址:GitHub vllm-project/vllm
主讲人 GitHub Profile: GitHub youkaichao


活动信息:

欢迎大家一起来玩!

清华大学 TUNA 协会原名清华大学学生网管会,注册名清华大学学生网络与开源软件协会,是由清华大学网络技术和开源软件爱好者、技术宅组成的团体。现阶段向校内外提供开源软件镜像等服务。

The best team on the planet.

calendar location-dot bars envelope telegram hashtag github flickr weibo