开发无需 API Key

vLLM

Name: vLLM
Author: vllm-project

高吞吐、显存高效的 LLM 推理与服务引擎

vllm-project GitHub 更新于 2026/07/23

#推理引擎#大模型#高吞吐

0下载

0安装

86,947星标

关于本页数据

本技能包信息最近更新于 2026年7月23日；下载与安装请通过 APICheck 技能资源市场进行，并以页面展示的版本与来源为准。

高吞吐、显存高效的 LLM 推理与服务引擎

vLLM 通过 PagedAttention 等技术实现高吞吐、低显存占用的 LLM 推理与服务，是生产级大模型部署的热门选择。

git clone https://github.com/vllm-project/vllm

也可直接访问仓库获取最新代码与文档：https://github.com/vllm-project/vllm

Apache-2.0