containers/ramalama

unable to run ramalama using --runtime vllm on macOS

Offen

#801 geöffnet am 13.02.2025

Auf GitHub ansehenContributor Guide
 (10 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (357 Forks)github user discovery
good first issuestale-issue

Repository-Metriken

Stars
 (3.013 Sterne)
PR-Merge-Metriken
 (Durchschn. Merge 6T 7h) (32 gemergte PRs in 30 T)

Beschreibung

trying ramalama on macOS 15 using --runtime vllm

I got

Trying to pull quay.io/modh/vllm:rhoai-2.18-cuda...
Error: choosing an image from manifest list docker://quay.io/modh/vllm:rhoai-2.18-cuda: no image found in image index for architecture "arm64", variant "v8", OS "linux"

it seems to fetch a cuda image while I am on Apple silicon.

Contributor Guide

Research-Richtung
Untersuchen Sie, warum das Image Manifest für quay.io/modh/vllm:rhoai 2.18 cuda keine arm64 Variante enthält. Stellen Sie fest, ob ein anderer Image Tag oder eine andere Registry verwendet werden kann, die arm64 unterstützt, oder ob die Image Auswahllogik in ramalama aktualisiert werden muss, um die Architekturerkennung zu handhaben.
Tech Stack
pythondocker
Domain
backendcli
Issue Type
Fehler
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
GitDocker
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
60