Is the key optional for a cloud-proxy upstream?
I maintainer di solito rispondono entro 3 giorni
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 68/100
- Tipo di issue
- Documentazione
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Attiva
- Stack tecnologico
- go
- Ambito
- cloud, documentation
Direzione di ricerca
Inizia dalla documentazione di cloud-proxy e dagli entry point resolveAPIKey, load path e doOpenAIRequest descritti nell'issue. Verifica come viene gestita una chiave non impostata, quindi chiarisci l'aspettativa documentata per gli upstream senza chiave e includi la configurazione del modello pertinente, se supportata. Il lavoro è completato quando la pagina non implica più che ogni upstream richieda una chiave.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
The cloud passthrough proxy is the part of LocalAI that lets one endpoint serve local and hosted models side by side, and your docs describe a model for it as backend: cloud-proxy with a proxy.upstream_url, where the key comes from api_key_env or api_key_file. Every example on that page loads a key that way, including the section for other OpenAI-compatible providers, which says to use provider: openai with the provider's URL and API key.
In the backend itself the key is not strictly required. resolveAPIKey returns an empty string with no error when both fields are unset, the load path only records whether a key was found, and doOpenAIRequest applies the auth header only when the key is not empty, so an upstream that never asks for one already works while the docs never name that case. The upstream I have in mind is BlockRun: one OpenAI-compatible base URL where chat, image, video, music, speech and sound effects ride the same payment flow, every call settles in USDC over x402, and there is no API key to hold, which leaves a cloud-proxy model with no api_key_env at all. https://blockrun.ai
So I wanted to ask whether that empty key path is deliberate, meaning a keyless upstream is a shape cloud-proxy is meant to carry, or whether a key is expected and the resolver is only being forgiving. The page reads as though an account somewhere is part of every cloud hop, which is why I would rather ask than assume. Happy to send the exact model config I pointed at BlockRun if a keyless example would be useful, and just as happy to be told that lane stays with keys.
- Lingua principale
- Go
- Stelle
- 49.2k
- Fork
- 4.5k
- Merge medio
- 1g 7h
- PR unite (30g)
- 340
Preparare l'ambiente
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di mudler/LocalAI
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
mudler/LocalAI#11995 · 1 commento ·
I maintainer di solito rispondono entro 3 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
mudler/LocalAI#11991 · 1 commento ·
I maintainer di solito rispondono entro 3 giorni
-
fish-speech: make compile:true usable on Blackwell sm_121 by honouring the CUDA toolkit's ptxasApertaenhancement
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
mudler/LocalAI#11348 · 1 commento ·
I maintainer di solito rispondono entro 3 giorni
-
feat: add automatic MCP transport selection for 2024-11-05 / 2025-03-26 / 2025-06-18 vs 2025-11-25Apertaenhancement
Difficoltà 3/5 1-2 giorni Idoneità per principianti 65/100
mudler/LocalAI#12262 · 2 commenti ·
I maintainer di solito rispondono entro 3 giorni
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
I maintainer di solito rispondono entro 3 giorni
Tutte le issue di mudler/LocalAI
Issue simili
-
Remove CAAPFApertakind/chore kind/cleanup needs-area
Difficoltà 2/5 1-3 ore Idoneità per principianti 86/100
rancher/turtles#2848 · 3 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 84/100
I maintainer di solito rispondono entro 1 giorno
-
priority: low 🌱 type: enhancement 💅🏼
Difficoltà 2/5 Mezza giornata Idoneità per principianti 84/100
nebari-dev/llm-serving-pack#199 ·
I maintainer di solito rispondono entro 3 giorni
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100
kedacore/keda#8225 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno