containers/ramalama

New OCI artifact type "docker model runner"

Open

#1.076 geöffnet am 31. März 2025

Auf GitHub ansehen
 (8 Kommentare) (0 Reaktionen) (0 zugewiesene Personen)Python (341 Forks)github user discovery
good first issuestale-issue

Repository-Metriken

Stars
 (2.873 Stars)
PR-Merge-Metriken
 (PR-Metriken ausstehend)

Beschreibung

There's two main model as OCI artefact types outside of RamaLama, Ollama and Docker Model Runner, For Ollama we did the OCI pulling in python3 with one of the container image layers being the .gguf file. Part of this issue is to figure out what dockers format.

For Ollama we implemented the pulling of that format in python.

One of the questions is do we also pull the docker format in python3? Or do we explore pulling these formats via skopeo/podman?

Contributor Guide

Research-Richtung
Untersuche das OCI Artefaktformat von Docker für den Model Runner, indem du die Docker Dokumentation und den Quellcode durchgehst. Vergleiche mit der vorhandenen Ollama Implementierung in RamaLama. Bewerte, ob Python Bibliotheken (wie `oci`) oder vorhandene Tools wie skopeo/podman zum Pull verwendet werden sollen. Besprich den Ansatz mit den Maintainern.
Tech Stack
pythondocker
Domain
backendai
Issue Type
Recherche
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-2 Tage
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Meist klar
Voraussetzungen
GitPython
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
35