仓库

vllm-project 的仓库

2 个支持的仓库

vllm-project/guidellmPython

Evaluate and Enhance Your LLM Deployments for Real-World Inference Needs

最近提交 2026年5月22日

 (1,166 stars) (156 forks) (0 个已索引 issue) (0 个开放 good first issue)
vllm-project/vllmPython

A high-throughput and memory-efficient inference and serving engine for LLMs

最近提交 2026年5月15日

 (80,034 stars) (16,816 forks) (61 个已索引 issue) (58 个开放 good first issue)