containers/ramalama

unable to run ramalama using --runtime vllm on macOS

Ouverte

#801 ouverte le 13 févr. 2025

Voir sur GitHubGuide contributeur
 (10 commentaires) (0 réaction) (0 personne assignée)Python (356 forks)github user discovery
good first issuestale-issue

Métriques du dépôt

Stars
 (3 007 étoiles)
Métriques de merge PR
 (Merge moyen 6j 7h) (32 PRs mergées en 30 j)

Description

trying ramalama on macOS 15 using --runtime vllm

I got

Trying to pull quay.io/modh/vllm:rhoai-2.18-cuda...
Error: choosing an image from manifest list docker://quay.io/modh/vllm:rhoai-2.18-cuda: no image found in image index for architecture "arm64", variant "v8", OS "linux"

it seems to fetch a cuda image while I am on Apple silicon.

Guide contributeur

Direction de recherche
Enquêtez sur la raison pour laquelle le manifeste d'image pour quay.io/modh/vllm:rhoai 2.18 cuda n'a pas de variante arm64. Déterminez s'il est possible d'utiliser un tag d'image ou un registre différent prenant en charge arm64, ou si la logique de sélection d'image dans ramalama doit être mise à jour pour gérer la détection de l'architecture.
Stack technique
pythondocker
Domaine
backendcli
Type d'issue
Bug
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
GitDocker
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
60