vllm-project/vllm-ascend

[Feature]: Some worker interfaces are missing

Chiusa

#4112 aperta il 11 nov 2025

Vedi su GitHubGuida contributor
 (3 commenti) (0 reazioni) (0 assegnatari)C++ (2090 fork)github user discovery
feature requesthelp wanted

Metriche repository

Star
 (2677 stelle)
Metriche merge PR
 (Merge medio 4g 5h) (559 PR mergiate in 30 g)

Descrizione

We found that some worker interfaces called by vLLM are missing in vLLM Ascend. It's good to add the support.

Guida contributor

Direzione di ricerca
Studia le implementazioni esistenti delle interfacce worker in vLLM Ascend (ad esempio, sample tokens, get kv connector handshake metadata) per comprendere i pattern. Per ogni funzione mancante (check health, reinitialize distributed, ecc.), trova l'interfaccia corrispondente nella classe worker base di vLLM e implementala nel plugin Ascend, assicurando la compatibilità con l'hardware Ascend.
Tech stack
python
Dominio
backend
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
3-5 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PythonC++vLLM basics
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
30