containers/ramalama

New OCI artifact type "docker model runner"

Open

#1076 aperta il 31 mar 2025

Vedi su GitHub
 (8 commenti) (0 reazioni) (0 assegnatari)Python (341 fork)github user discovery
good first issuestale-issue

Metriche repository

Star
 (2873 star)
Metriche merge PR
 (Metriche PR in attesa)

Descrizione

There's two main model as OCI artefact types outside of RamaLama, Ollama and Docker Model Runner, For Ollama we did the OCI pulling in python3 with one of the container image layers being the .gguf file. Part of this issue is to figure out what dockers format.

For Ollama we implemented the pulling of that format in python.

One of the questions is do we also pull the docker format in python3? Or do we explore pulling these formats via skopeo/podman?

Guida contributor

Direzione di ricerca
Investiga il formato degli artefatti OCI di Docker per il model runner, esaminando la documentazione e il codice sorgente di Docker. Confronta con l'implementazione esistente di Ollama in RamaLama. Valuta se utilizzare librerie Python (come `oci`) o strumenti esistenti come skopeo/podman per il pull. Discuti con i manutentori per allinearsi sull'approccio.
Tech stack
pythondocker
Dominio
backendai
Tipo issue
Ricerca
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-2 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
GitPython
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
35