containers/ramalama

unable to run ramalama using --runtime vllm on macOS

Aperta

#801 aperta il 13 feb 2025

Vedi su GitHubGuida contributor
 (10 commenti) (0 reazioni) (0 assegnatari)Python (354 fork)github user discovery
good first issuestale-issue

Metriche repository

Star
 (3000 stelle)
Metriche merge PR
 (Merge medio 6g 7h) (32 PR mergiate in 30 g)

Descrizione

trying ramalama on macOS 15 using --runtime vllm

I got

Trying to pull quay.io/modh/vllm:rhoai-2.18-cuda...
Error: choosing an image from manifest list docker://quay.io/modh/vllm:rhoai-2.18-cuda: no image found in image index for architecture "arm64", variant "v8", OS "linux"

it seems to fetch a cuda image while I am on Apple silicon.

Guida contributor

Direzione di ricerca
Indaga perché il manifest dell'immagine per quay.io/modh/vllm:rhoai 2.18 cuda non ha una variante arm64. Determina se è possibile utilizzare un diverso tag di immagine o registro che supporti arm64, o se la logica di selezione dell'immagine in ramalama deve essere aggiornata per gestire il rilevamento dell'architettura.
Tech stack
pythondocker
Dominio
backendcli
Tipo issue
Bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
GitDocker
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
60