containers/ramalama

New OCI artifact type "docker model runner"

Open

#1.076 aberto em 31 de mar. de 2025

Ver no GitHub
 (8 comments) (0 reactions) (0 assignees)Python (341 forks)github user discovery
good first issuestale-issue

Métricas do repositório

Stars
 (2.873 stars)
Métricas de merge de PR
 (Métricas PR pendentes)

Description

There's two main model as OCI artefact types outside of RamaLama, Ollama and Docker Model Runner, For Ollama we did the OCI pulling in python3 with one of the container image layers being the .gguf file. Part of this issue is to figure out what dockers format.

For Ollama we implemented the pulling of that format in python.

One of the questions is do we also pull the docker format in python3? Or do we explore pulling these formats via skopeo/podman?

Guia do colaborador

Direção de pesquisa
Investigue o formato de artefato OCI do Docker para o model runner, revisando a documentação e o código fonte do Docker. Compare com a implementação existente do Ollama no RamaLama. Avalie se usar bibliotecas Python (como `oci`) ou ferramentas existentes como skopeo/podman para realizar o pull. Discuta com os mantenedores para alinhar a abordagem.
Pilha de tecnologia
pythondocker
Domain
backendai
Tipo Issue
Pesquisa
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Principalmente claro
Prerequisites
GitPython
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
35