vllm-project/vllm-omni

[Feature]: Support Container Image Format -> ARM64

Open

#195 ouverte le 4 déc. 2025

Voir sur GitHub
 (10 commentaires) (0 réactions) (0 assignés)Python (1 067 forks)github user discovery
help wanted

Métriques du dépôt

Stars
 (4 990 stars)
Métriques de merge PR
 (Métriques PR en attente)

Description

🚀 The feature, motivation and pitch

NVIDIA Jetson Series Device, Hope to can be run Omni Model

Alternatives

No response

Additional context

No response

Before submitting a new issue...

  • Make sure you already searched for relevant issues, and asked the chatbot living at the bottom right corner of the documentation page, which can answer lots of frequently asked questions.

Guide contributeur

Direction de recherche
Étudiez comment modifier le processus de construction du conteneur pour prendre en charge l'architecture ARM64, en particulier pour les appareils NVIDIA Jetson. Vérifiez le Dockerfile actuel et les scripts CI/CD pour la construction multiplateforme. Utilisez la prise en charge de la construction multi architecture de Docker (buildx) pour créer des images ARM64. Assurez vous que toutes les dépendances (par exemple PyTorch, CUDA) sont disponibles sur ARM64. Testez l'image construite sur un appareil Jetson.
Stack technique
pythondocker
Domaine
backendinfrastructure
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
PythonDocker
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60