Allow --oss / --local-provider to use user-defined [model_providers] entries

Aperta Adatta ai principianti
#62,168 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
2/5
Tempo stimato
1-3 ore
Idoneità per principianti
68/100
Tipo di issue
Funzionalità
Chiarezza
Specificata chiaramente
Stato di attività
Attiva
Stack tecnologico
rust
Ambito
cli

Direzione di ricerca

Parti da codex-rs/config/src/config_toml.rs e segui validate_oss_provider, ensure_oss_provider_ready e get_default_model_for_oss_provider; controlla i test correlati e come vengono caricate le voci [model_providers.<id>] definite dall’utente. Conferma che --oss --local-provider <id> accetti un provider configurato e che i controlli di disponibilità e il comportamento del modello predefinito rimangano quelli descritti. Il lavoro è completato quando i test coprono i casi proposti nell’issue.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

CLI config custom-model enhancement
What variant of Codex are you using?

CLI

What feature would you like to see?

Let --oss / --local-provider (and oss_provider in config.toml) accept any provider ID that the user has defined under [model_providers.<id>], not only lmstudio and ollama.

Today validate_oss_provider (codex-rs/config/src/config_toml.rs) rejects every other ID with Invalid OSS provider '<id>'. Must be one of: lmstudio, ollama. A user who runs a different local OpenAI-compatible server can already reach it through a custom [model_providers.*] entry plus model_provider = "<id>", but cannot use the --oss flow for it.

Proposed behavior:

  • codex --oss --local-provider <id> accepts <id> when [model_providers.<id>] exists in the user's config.
  • The built-in readiness checks in ensure_oss_provider_ready stay specific to lmstudio and ollama; for user-defined providers, Codex skips setup, as it already does for unknown IDs.
  • get_default_model_for_oss_provider returns None for user-defined providers, so the user's configured model is used.

This would cover requests for individual local runtimes without Codex having to maintain each one, for example #47189 (osaurus).

Additional information

I maintain Rapid-MLX, an open-source OpenAI-compatible inference server for Apple Silicon, so I'm one of the runtimes that would use this. A config that works today without --oss:

model_provider = "rapid-mlx"
model = "qwen3.8-27b-4bit"

[model_providers.rapid-mlx]
name = "Rapid-MLX"
base_url = "http://127.0.0.1:8000/v1"

With this change, codex --oss --local-provider rapid-mlx would work with the same entry.

Lingua principale
Rust
Stelle
135k
Fork
21.4k
Merge medio
1m
PR unite (30g)
998

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di openai/codex

Tutte le issue di openai/codex

Issue simili

Altre issue su Rust

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.