nebari-dev/llm-serving-pack
Self-hosted LLM serving via llm-d. Includes per-model OIDC access control, API key management, and Envoy AI Gateway token counting and rate limiting.
nebari-dev/llm-serving-pack è adatto ai principianti?
I maintainer di nebari-dev/llm-serving-pack di solito rispondono a una pull request entro 1 giorno. In questo momento sono aperte 3 issue adatte ai principianti.
- Stelle
- 3
- Fork
- 3
- Issue aperte per principianti
- 3
- Issue indicizzate
- 49
- Merge medio
- 41m
- PR unite (30g)
- 7
- Lingua principale
- Go
- Licenza
- Apache-2.0
- Ultimo push su GitHub
- 9/10/2026
- Ultima indicizzazione
- 19/9/2026
- Guida per i contributori
- Guida per i contributori
- Codice di condotta
- Codice di condotta
- Label per principianti
- good first issue
Come contribuire a nebari-dev/llm-serving-pack
- Leggi prima la guida per contribuire: spiega come i maintainer vogliono che le modifiche siano proposte, testate e revisionate.
- Leggi il suo codice di condotta: vale per issue e pull request tanto quanto per la chat.
- I tuoi contributi saranno pubblicati con la licenza Apache-2.0 del progetto.
- Scegli una delle 3 issue aperte adatte ai principianti qui sotto e, prima di iniziare, scrivi in un commento che vuoi occupartene.
Le issue su cui forse qualcuno sta già lavorando sono in fondo alla lista. Ordina tutto per data
-
type: enhancement 💅🏼
Difficoltà 4/5 3-5 giorni Idoneità per principianti 65/100
nebari-dev/llm-serving-pack#209 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
nebari-dev/llm-serving-pack#200 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: low 🌱 type: enhancement 💅🏼
Difficoltà 2/5 Mezza giornata Idoneità per principianti 84/100
nebari-dev/llm-serving-pack#199 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 45/100
nebari-dev/llm-serving-pack#195 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
nebari-dev/llm-serving-pack#194 ·
I maintainer di solito rispondono entro 1 giorno
-
needs: discussion 💬 priority: low 🌱 type: enhancement 💅🏼
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
nebari-dev/llm-serving-pack#193 ·
I maintainer di solito rispondono entro 1 giorno
-
Add nodeSelector, tolerations and imagePullSecrets for the EPP under spec.advanced.inferencePoolApertaneeds: discussion 💬
Difficoltà 4/5 3-5 giorni Idoneità per principianti 68/100
nebari-dev/llm-serving-pack#176 ·
I maintainer di solito rispondono entro 1 giorno
-
type: deprecation ⚰️
Difficoltà 4/5 3-5 giorni Idoneità per principianti 64/100
nebari-dev/llm-serving-pack#175 · 2 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
priority: medium ⚡ UI/UX/DX
Difficoltà 5/5 Più di una settimana Idoneità per principianti 45/100
nebari-dev/llm-serving-pack#152 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
nebari-dev/llm-serving-pack#148 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: high 🔥 security type: enhancement 💅🏼
Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100
nebari-dev/llm-serving-pack#136 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: medium ⚡ security type: enhancement 💅🏼
Difficoltà 3/5 1-2 giorni Idoneità per principianti 58/100
nebari-dev/llm-serving-pack#135 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: high 🔥 security type: enhancement 💅🏼
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
nebari-dev/llm-serving-pack#134 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100
nebari-dev/llm-serving-pack#124 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 25/100
nebari-dev/llm-serving-pack#123 ·
I maintainer di solito rispondono entro 1 giorno
-
Per-model API-key scoping broken when one user has keys for multiple models (colliding client IDs)Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 25/100
nebari-dev/llm-serving-pack#122 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 25/100
nebari-dev/llm-serving-pack#121 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: medium ⚡ type: maintenance 🛠
Difficoltà 3/5 1-2 giorni Idoneità per principianti 72/100
nebari-dev/llm-serving-pack#109 ·
I maintainer di solito rispondono entro 1 giorno
-
good first issue priority: low 🌱 type: enhancement 💅🏼 UI/UX/DX
Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100
nebari-dev/llm-serving-pack#106 ·
I maintainer di solito rispondono entro 1 giorno
-
[DOC] - Create placeholder documentationForse di nuovo libera Una pull request per questa issue è stata chiusa senza essere unita. Apertaarea: documentation 📖 priority: medium ⚡ type: maintenance 🛠
Difficoltà 3/5 1-2 giorni Idoneità per principianti 52/100
nebari-dev/llm-serving-pack#104 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: medium ⚡ type: enhancement 💅🏼
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
nebari-dev/llm-serving-pack#87 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: high 🔥 type: enhancement 💅🏼
Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100
nebari-dev/llm-serving-pack#86 ·
I maintainer di solito rispondono entro 1 giorno
-
AI Gateway webhook cert becomes untrusted after pod rescheduling, blocking envoy proxy creationApertaneeds: investigation 🔍 priority: high 🔥 type: bug 🐛
Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100
nebari-dev/llm-serving-pack#84 · 3 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
Epic: v0.2 feature additionsApertaepic
Difficoltà 5/5 Più di una settimana Idoneità per principianti 30/100
nebari-dev/llm-serving-pack#81 ·
I maintainer di solito rispondono entro 1 giorno
-
epic
Difficoltà 4/5 3-5 giorni Idoneità per principianti 38/100
nebari-dev/llm-serving-pack#80 ·
I maintainer di solito rispondono entro 1 giorno
-
epic
Difficoltà 4/5 3-5 giorni Idoneità per principianti 42/100
nebari-dev/llm-serving-pack#79 ·
I maintainer di solito rispondono entro 1 giorno
-
epic
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
nebari-dev/llm-serving-pack#78 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: medium ⚡ type: enhancement 💅🏼
Difficoltà 4/5 3-5 giorni Idoneità per principianti 52/100
nebari-dev/llm-serving-pack#69 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
area: ci 👷🏽♀️ area: testing ✅ priority: medium ⚡ type: maintenance 🛠
Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100
nebari-dev/llm-serving-pack#68 ·
I maintainer di solito rispondono entro 1 giorno
-
API key rotation and expiryApertapriority: high 🔥 type: enhancement 💅🏼
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
nebari-dev/llm-serving-pack#67 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: high 🔥 type: enhancement 💅🏼
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
nebari-dev/llm-serving-pack#66 ·
I maintainer di solito rispondono entro 1 giorno
-
needs: follow-up 📥 needs: PR 📬 priority: high 🔥 type: enhancement 💅🏼
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
nebari-dev/llm-serving-pack#55 ·
I maintainer di solito rispondono entro 1 giorno
-
area: documentation 📖 needs: documentation 📖 needs: follow-up 📥 priority: medium ⚡ type: maintenance 🛠
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
nebari-dev/llm-serving-pack#54 ·
I maintainer di solito rispondono entro 1 giorno
-
area: developer experience 👩🏻💻 needs: follow-up 📥 priority: low 🌱 type: maintenance 🛠
Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100
nebari-dev/llm-serving-pack#53 ·
I maintainer di solito rispondono entro 1 giorno
-
area: testing ✅ good first issue needs: follow-up 📥 priority: low 🌱 type: maintenance 🛠
Difficoltà 3/5 1-2 giorni Idoneità per principianti 48/100
nebari-dev/llm-serving-pack#52 ·
I maintainer di solito rispondono entro 1 giorno
-
area: documentation 📖 needs: follow-up 📥 priority: medium ⚡ type: maintenance 🛠
Difficoltà 3/5 1-2 giorni Idoneità per principianti 52/100
nebari-dev/llm-serving-pack#51 ·
I maintainer di solito rispondono entro 1 giorno
-
area: documentation 📖 needs: follow-up 📥 needs: investigation 🔍 priority: medium ⚡ type: bug 🐛
Difficoltà 4/5 3-5 giorni Idoneità per principianti 48/100
nebari-dev/llm-serving-pack#50 ·
I maintainer di solito rispondono entro 1 giorno
-
area: developer experience 👩🏻💻 good first issue needs: follow-up 📥 priority: medium ⚡ type: maintenance 🛠
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
nebari-dev/llm-serving-pack#49 ·
I maintainer di solito rispondono entro 1 giorno
-
area: developer experience 👩🏻💻 good first issue needs: follow-up 📥 priority: low 🌱 type: maintenance 🛠
Difficoltà 3/5 1-2 giorni Idoneità per principianti 78/100
nebari-dev/llm-serving-pack#48 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: medium ⚡ type: enhancement 💅🏼
Difficoltà 4/5 3-5 giorni Idoneità per principianti 45/100
nebari-dev/llm-serving-pack#43 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: low 🌱 type: enhancement 💅🏼
Difficoltà 5/5 Più di una settimana Idoneità per principianti 30/100
nebari-dev/llm-serving-pack#42 ·
I maintainer di solito rispondono entro 1 giorno
-
priority: low 🌱 type: maintenance 🛠
Difficoltà 3/5 1-2 giorni Idoneità per principianti 58/100
nebari-dev/llm-serving-pack#40 ·
I maintainer di solito rispondono entro 1 giorno
-
epic
Difficoltà 5/5 Più di una settimana Idoneità per principianti 30/100
nebari-dev/llm-serving-pack#1 ·
I maintainer di solito rispondono entro 1 giorno
-
Add user-configurable service-level concurrency control for self-hosted modelsForse già presa @ns-mkusper l’ha presa 21 giorni fa. Aperta
nebari-dev/llm-serving-pack#198 · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno
-
Add opt-in native CPU KV-cache offload with explicit memory budgetingForse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta
Difficoltà 5/5 Più di una settimana Idoneità per principianti 32/100
nebari-dev/llm-serving-pack#196 ·
I maintainer di solito rispondono entro 1 giorno
-
Report each model's hosting origin on /v1/modelsForse già presa @ns-mkusper l’ha presa 26 giorni fa. Aperta
Difficoltà 3/5 1-2 giorni Idoneità per principianti 65/100
nebari-dev/llm-serving-pack#191 ·
I maintainer di solito rispondono entro 1 giorno
-
Default EPP image ghcr.io/llm-d/llm-d-inference-scheduler:v0.8.0 no longer existsForse già presa @Keerthirajan58 l’ha presa 45 giorni fa. Apertatype: bug 🐛
Difficoltà 4/5 3-5 giorni Idoneità per principianti 68/100
nebari-dev/llm-serving-pack#174 ·
I maintainer di solito rispondono entro 1 giorno
-
Implement envoyAIGateway.install flag in Helm chartForse già presa @marcelovilla l’ha presa 53 giorni fa. Apertapriority: medium ⚡ type: enhancement 💅🏼
nebari-dev/llm-serving-pack#44 · 3 commenti · 1 assegnatario ·
I maintainer di solito rispondono entro 1 giorno