docker/model-runner

Ver no GitHub

Docker Model Runner

Estrelas: 651
Forks: 155
Issues abertas para iniciantes: 0
Issues indexadas: 43

Linguagem predominante: Go
Licença: Apache-2.0
Último push no GitHub: 20/8/2026
Última indexação: 20/9/2026
Guia de contribuição: Sem guia de contribuição
Código de conduta: Sem código de conduta
Labels para iniciantes: good first issue
Métricas de merge de PRs: Nenhum PR com merge em 30d

Para iniciantes Tudo

Abertas Todas

43 issues abertas indexadas

llama.cpp backend: allow `--reasoning on|off` in runtime flag allowlist Aberta

Dificuldade 1/5 Menos de uma hora Facilidade para iniciantes 90/100

docker/model-runner#1064 · Aberta em 19/9/2026
Docker Model Runner (llama.cpp backend) returns HTTP 500 "does not match the expected peg-native format" when a single chat turn requires 2+ sequential tool/function calls Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 68/100

docker/model-runner#1063 · Aberta em 18/9/2026
OrcaRouter provider support for the Docker Model Runner gateway Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 42/100

docker/model-runner#1059 · Aberta em 9/9/2026
Using CPU inference there is no way to control how much ram of the host is used Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 45/100

docker/model-runner#1058 · Aberta em 8/9/2026
Docker Model Runner: `docker model bench` leaves the loaded llama.cpp model returning only `?` tokens (CUDA, GTX 1650) Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 48/100

docker/model-runner#1056 · Aberta em 4/9/2026
Docker Model Runner on Windows fails to provision com.docker.nv-gpu-info.exe, breaking llama.cpp CUDA backend after Docker Desktop 4.82.0 Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 55/100

docker/model-runner#1054 · Aberta em 1/9/2026
SSRF fix in PR #1038 blocks all private/loopback/link-local realm addresses, breaking internal/corporate registries Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 55/100

docker/model-runner#1050 · 1 reação · Aberta em 24/8/2026
`/api/show` returns no `capabilities` and empty `details` fields Aberta

Dificuldade 3/5 1-2 dias Facilidade para iniciantes 64/100

docker/model-runner#1046 · Aberta em 22/8/2026
`ai/functiongemma` tool calls are not parsed into `tool_calls` Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 55/100

docker/model-runner#1045 · Aberta em 22/8/2026
diffusers: generation continues after client disconnect and blocks the event loop — no cancellation Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 52/100

docker/model-runner#1041 · Aberta em 15/8/2026
Gemma 4 on llama: Reasoning budget 0 does not work Aberta

Dificuldade 3/5 1-2 dias Facilidade para iniciantes 55/100

docker/model-runner#1039 · Aberta em 11/8/2026
compose up: --backend flag is accepted but never applied Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 45/100

docker/model-runner#1036 · Aberta em 10/8/2026
Compose: allowlisted backend environment variables for inference process Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 52/100

docker/model-runner#1035 · Aberta em 10/8/2026
Disable thinking if reasoning_effort is none. Aberta

Dificuldade 3/5 1-2 dias Facilidade para iniciantes 62/100

docker/model-runner#1028 · Aberta em 27/7/2026
configure --context-size applied nondeterministically; packaged 128K default loaded instead → kernel panic on 24GB Mac (3×) Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 48/100

docker/model-runner#1025 · Aberta em 24/7/2026
Pascal GPUs (sm_61/sm_62) still fall back to CPU with `docker model run` despite #986 Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 48/100

docker/model-runner#1024 · 2 reações · Aberta em 23/7/2026
vLLM support broken on Windows with WSL2 Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 45/100

docker/model-runner#1018 · 2 comentários · 2 reações · Aberta em 18/7/2026
Release the binary for the Docker CLI plugin `docker-model-plugin` Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 52/100

docker/model-runner#1016 · Aberta em 15/7/2026
Disk Usage Duplication Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 38/100

docker/model-runner#1015 · 2 comentários · 1 reação · Aberta em 14/7/2026
automatic unloading mechanism in Docker Model, similar to the one in Ollama Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 48/100

docker/model-runner#1014 · Aberta em 14/7/2026
More apple metal woes Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 38/100

docker/model-runner#1009 · 3 comentários · Aberta em 12/7/2026
Available unified memory in llama.cpp Aberta

good first issue

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 45/100

docker/model-runner#994 · 1 comentário · Aberta em 3/7/2026
Docker pull fails for ai/llama3.2 with TLS handshake timeout (500 Internal Server Error) Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 35/100

docker/model-runner#989 · Aberta em 28/6/2026
CUDA version requirement is too new Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 42/100

docker/model-runner#978 · Aberta em 19/6/2026
latest model runner seems to have a few issues Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 35/100

docker/model-runner#969 · 3 comentários · 2 reações · Aberta em 12/6/2026
docker model package doesn't inherent model features ( no vision decoding ) Aberta

Dificuldade 3/5 1-2 dias Facilidade para iniciantes 50/100

docker/model-runner#963 · 1 reação · Aberta em 9/6/2026
docker model package don't update context size Aberta

Dificuldade 3/5 1-2 dias Facilidade para iniciantes 48/100

docker/model-runner#962 · 3 comentários · Aberta em 9/6/2026
Suggestion about model reinstall-runner Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 45/100

docker/model-runner#958 · Aberta em 6/6/2026
VLLM CUDA image doesn't run on GPU Aberta

Dificuldade 3/5 1-2 dias Facilidade para iniciantes 55/100

docker/model-runner#952 · 4 comentários · 7 reações · Aberta em 2/6/2026
Model MTP support + Backend Issue Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 35/100

docker/model-runner#941 · 3 comentários · Aberta em 26/5/2026
Bug Report: Docker Model Runner Does Not Use Intel Arc GPU via Vulkan on Windows Aberta

good first issue

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 50/100

docker/model-runner#925 · 2 comentários · 1 reação · Aberta em 20/5/2026
Docker Sandboxes and DMR integration Aberta

good first issue

docker/model-runner#915 · 3 comentários · 1 responsável · Aberta em 14/5/2026
Unable to set vllm serve parameters using hf_overrides Aberta

good first issue

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 50/100

docker/model-runner#912 · 13 comentários · Aberta em 12/5/2026
NPU support Aberta

good first issue

Dificuldade 5/5 Mais de uma semana Facilidade para iniciantes 35/100

docker/model-runner#864 · 5 comentários · Aberta em 14/4/2026
flash streaming Aberta

Dificuldade 5/5 Mais de uma semana Facilidade para iniciantes 25/100

docker/model-runner#815 · Aberta em 30/3/2026
Several issues displaying log files Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 35/100

docker/model-runner#750 · 7 comentários · Aberta em 14/3/2026
docker model launch llmfit Aberta

good first issue

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 42/100

docker/model-runner#747 · 9 comentários · Aberta em 14/3/2026
Runtime_flags are ignored on Linux in certain cases Aberta

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 38/100

docker/model-runner#726 · 8 comentários · Aberta em 3/3/2026
Add support for Modelfile Aberta

good first issue

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 48/100

docker/model-runner#613 · 2 comentários · Aberta em 29/1/2026
Host-side TCP setting blocks vLLM backend installation Aberta

bug

Dificuldade 3/5 1-2 dias Facilidade para iniciantes 48/100

docker/model-runner#526 · 7 comentários · 3 reações · Aberta em 18/12/2025
`unable to load runner: error waiting for runner to be ready: llama.cpp terminated unexpectedly` Aberta

bug

Dificuldade 4/5 3-5 dias Facilidade para iniciantes 48/100

docker/model-runner#479 · 17 comentários · 1 reação · Aberta em 4/12/2025
alt (option) + b/f doesn't work on iTerm2 on macOS Aberta

good first issue

docker/model-runner#234 · 2 comentários · 1 reação · 2 responsáveis · Aberta em 15/10/2025
Feature: MLX backend Aberta

enhancement good first issue

docker/model-runner#90 · 6 comentários · 5 reações · 1 responsável · Aberta em 21/6/2025

docker/model-runner

Receba novas issues na sua caixa de entrada