倉庫

vllm-project 的倉庫

2 個支援的倉庫

vllm-project/guidellmPython

Evaluate and Enhance Your LLM Deployments for Real-World Inference Needs

最近提交 2026年5月22日

 (1,166 stars) (156 forks) (0 個已索引 issue) (0 個開放 good first issue)
vllm-project/vllmPython

A high-throughput and memory-efficient inference and serving engine for LLMs

最近提交 2026年5月15日

 (80,034 stars) (16,816 forks) (61 個已索引 issue) (58 個開放 good first issue)