Repository Issues
vllm-project/vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
Issue
オープン
[Docs] Document NIXL KV connector metrics aggregation semantics
good first issue
初心者向けラベルありコントリビューションガイドあり
8 件のコメント1 件のリアクション1 人の担当者
オープン
[Feature]: Integrate fused `kMoEFinalizeARResidualRMSNorm` from FlashInfer
feature requesthelp wanted
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
5 件のコメント1 件のリアクション0 人の担当者
オープン
[Feature]: Priority scheduling supports preemption of requests in the running queue by requests in the waiting queue
feature requesthelp wanted
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
6 件のコメント0 件のリアクション0 人の担当者
オープン
[torch.compile] config hashing refactor follow-ups
feature requestgood first issuehelp wanted
おすすめ理由初心者向けラベルあり · コントリビューションガイドあり
初心者向けラベルありコントリビューションガイドあり
16 件のコメント0 件のリアクション3 人の担当者
オープン
[torch.compile] E2E correctness testing for fusions
help wantedtorch.compile
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
8 件のコメント0 件のリアクション0 人の担当者
オープン
[Bug]: Certain Ranks Take a Look Time to Load Weights
bughelp wanted
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
3 件のコメント0 件のリアクション0 人の担当者
オープン
[Transformers v5] InternVL2
good first issuehelp wanted
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
5 件のコメント0 件のリアクション0 人の担当者
オープン
Upgrade to Transformers v5
help wanted
おすすめ理由初心者向けラベルあり · コントリビューションガイドあり
初心者向けラベルありコントリビューションガイドあり
4 件のコメント13 件のリアクション1 人の担当者
オープン
[Feature]: Better Flashinfer compilation logging
feature requesthelp wanted
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
9 件のコメント0 件のリアクション0 人の担当者
オープン
[RFC]: Support ViT Full CUDA Graph (Tracker)
RFChelp wantedmulti-modality
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
23 件のコメント1 件のリアクション0 人の担当者
オープン
[Feature]: Unify MoE "Oracles" with Class Structure
feature requestgood first issuehelp wanted
おすすめ理由初心者向けラベルあり · コントリビューションガイドあり
初心者向けラベルありコントリビューションガイドあり
8 件のコメント0 件のリアクション1 人の担当者
オープン
[Feature]: Upstream DGX spark improvements from Avarok-Cybersecurity/dgx-vllm
feature requesthelp wantednvidiaquantization
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
13 件のコメント1 件のリアクション0 人の担当者
オープン
[Roadmap]: PD Disaggregation with `NixlConnector` Roadmap
feature requesthelp wanted
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
5 件のコメント15 件のリアクション0 人の担当者
オープン
[Feature]: Remove attention layer name from `unified_kv_cache_update`
feature requestgood first issuehelp wantedstalestartup-uxtorch.compile
おすすめ理由初心者向けラベルあり · コントリビューションガイドあり
初心者向けラベルありコントリビューションガイドあり
8 件のコメント1 件のリアクション2 人の担当者
オープン
[Bug]: Wrong timestamps if audio > 30s
buggood first issuehelp wanted
おすすめ理由初心者向けラベルあり · コントリビューションガイドあり
初心者向けラベルありコントリビューションガイドあり
11 件のコメント1 件のリアクション2 人の担当者
オープン
[Feature]: Extract KV-Cache update from all attention backends
feature requestgood first issuehelp wanted
おすすめ理由初心者向けラベルあり · コントリビューションガイドあり
初心者向けラベルありコントリビューションガイドあり
51 件のコメント0 件のリアクション9 人の担当者
オープン
[Feature]: Refactor Int8ScaledMMLinearLayerConfig to use QuantKey
feature requestgood first issuehelp wanted
おすすめ理由初心者向けラベルあり · コントリビューションガイドあり
初心者向けラベルありコントリビューションガイドあり
7 件のコメント0 件のリアクション1 人の担当者
オープン
[Feature]: Use kernel abstraction for fp4 scaled mm
feature requesthelp wantedunstale
おすすめ理由初心者向けラベルあり · コントリビューションガイドあり
初心者向けラベルありコントリビューションガイドあり
12 件のコメント0 件のリアクション1 人の担当者
オープン
[Feature]: Error Logging Redesign
feature requesthelp wanted
おすすめ理由初心者向けラベルあり · コントリビューションガイドあり
初心者向けラベルありコントリビューションガイドあり
7 件のコメント0 件のリアクション1 人の担当者
オープン
[Bug]: ModelOpt Llama-4 Checkpoints Take 5+ minutes to load
bugfeature requestgood first issuehelp wanted
おすすめ理由担当者がまだいない · 初心者向けラベルあり
担当者がまだいない初心者向けラベルありコントリビューションガイドあり
12 件のコメント0 件のリアクション0 人の担当者