リポジトリ

vllm-project のリポジトリ

2 件の対応リポジトリ

Evaluate and Enhance Your LLM Deployments for Real-World Inference Needs

最終コミット 2026年5月22日

 (1,166 stars) (156 forks) (0 件の索引済み issue) (0 件のオープンな good first issue)

A high-throughput and memory-efficient inference and serving engine for LLMs

最終コミット 2026年5月15日

 (80,034 stars) (16,816 forks) (61 件の索引済み issue) (58 件のオープンな good first issue)