vllm-project/vllm-ascend

[Feature]: Some worker interfaces are missing

Open

#4.112 geöffnet am 11. Nov. 2025

Auf GitHub ansehen
 (3 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)C++ (1.318 Forks)github user discovery
feature requesthelp wanted

Repository-Metriken

Stars
 (2.180 Stars)
PR-Merge-Metriken
 (Durchschn. Merge 5T 16h) (419 gemergte PRs in 30 T)

Beschreibung

We found that some worker interfaces called by vLLM are missing in vLLM Ascend. It's good to add the support.

Contributor Guide

Research-Richtung
Studieren Sie die vorhandenen Implementierungen von Worker Schnittstellen in vLLM Ascend (z. B. sample tokens, get kv connector handshake metadata), um die Muster zu verstehen. Suchen Sie für jede fehlende Funktion (check health, reinitialize distributed usw.) die entsprechende Schnittstelle in der Basis Worker Klasse von vLLM und implementieren Sie sie im Ascend Plugin, wobei Sie die Kompatibilität mit Ascend Hardware sicherstellen.
Tech Stack
python
Domain
backend
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
3-5 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Meist klar
Voraussetzungen
PythonC++vLLM basics
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
30