Is the key optional for a cloud-proxy upstream?
Los mantenedores suelen responder en 3 días
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 2/5
- Tiempo estimado
- 1-3 horas
- Aptitud para principiantes
- 68/100
- Tipo de issue
- Documentación
- Claridad
- Bastante claro
- Estado de actividad
- Activo
- Stack tecnológico
- go
- Área
- cloud, documentation
Línea de trabajo
Comienza con la documentación de cloud-proxy y los puntos de entrada resolveAPIKey, load path y doOpenAIRequest descritos en el issue. Verifica cómo se gestiona una clave no establecida y, a continuación, aclara la expectativa documentada para los upstreams sin clave e incluye la configuración del modelo pertinente si es compatible. Se considera completado cuando la página ya no da a entender que todos los upstreams requieren una clave.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
The cloud passthrough proxy is the part of LocalAI that lets one endpoint serve local and hosted models side by side, and your docs describe a model for it as backend: cloud-proxy with a proxy.upstream_url, where the key comes from api_key_env or api_key_file. Every example on that page loads a key that way, including the section for other OpenAI-compatible providers, which says to use provider: openai with the provider's URL and API key.
In the backend itself the key is not strictly required. resolveAPIKey returns an empty string with no error when both fields are unset, the load path only records whether a key was found, and doOpenAIRequest applies the auth header only when the key is not empty, so an upstream that never asks for one already works while the docs never name that case. The upstream I have in mind is BlockRun: one OpenAI-compatible base URL where chat, image, video, music, speech and sound effects ride the same payment flow, every call settles in USDC over x402, and there is no API key to hold, which leaves a cloud-proxy model with no api_key_env at all. https://blockrun.ai
So I wanted to ask whether that empty key path is deliberate, meaning a keyless upstream is a shape cloud-proxy is meant to carry, or whether a key is expected and the resolver is only being forgiving. The page reads as though an account somewhere is part of every cloud hop, which is why I would rather ask than assume. Happy to send the exact model config I pointed at BlockRun if a keyless example would be useful, and just as happy to be told that lane stays with keys.
- Lenguaje dominante
- Go
- Estrellas
- 49.2k
- Forks
- 4.5k
- Merge medio
- 1 d 7 h
- PR fusionados (30 d)
- 340
Preparar el entorno
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de mudler/LocalAI
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
mudler/LocalAI#11995 · 1 comentario ·
Los mantenedores suelen responder en 3 días
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
mudler/LocalAI#11991 · 1 comentario ·
Los mantenedores suelen responder en 3 días
-
fish-speech: make compile:true usable on Blackwell sm_121 by honouring the CUDA toolkit's ptxasAbiertoenhancement
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
mudler/LocalAI#11348 · 1 comentario ·
Los mantenedores suelen responder en 3 días
-
feat: add automatic MCP transport selection for 2024-11-05 / 2025-03-26 / 2025-06-18 vs 2025-11-25Abiertoenhancement
Dificultad 3/5 1-2 días Aptitud para principiantes 65/100
mudler/LocalAI#12262 · 2 comentarios ·
Los mantenedores suelen responder en 3 días
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
Los mantenedores suelen responder en 3 días
Todos los issues de mudler/LocalAI
Issues similares
-
priority: low 🌱 type: enhancement 💅🏼
Dificultad 2/5 Medio día Aptitud para principiantes 84/100
nebari-dev/llm-serving-pack#199 ·
Los mantenedores suelen responder en 3 días
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
-
area/helm kind/bug priority/backlog triage/accepted
Dificultad 2/5 1-3 horas Aptitud para principiantes 84/100
lexfrei/cloudflare-tunnel-gateway-controller#889 ·
Los mantenedores suelen responder en 1 día
-
bug difficulty: beginner documentation good first issue help wanted localization
Dificultad 1/5 Menos de una hora Aptitud para principiantes 90/100
wavefnd/wave-platform#140 ·
-
compiler/runtime
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
golang/go#81797 · 1 comentario ·
Los mantenedores suelen responder en 1 día