Docs suggestion: add an AnyLLM provider quickstart (single OpenAI-compatible endpoint for 24+ models)
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- Mezza giornata
- Idoneità per principianti
- 62/100
- Tipo di issue
- Documentazione
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Tranquilla
- Ambito
- documentation
Direzione di ricerca
Inizia individuando e leggendo le guide rapide dei provider esistenti di EverOS per conoscerne il formato e i dettagli di configurazione che trattano. Aggiungi una voce su AnyLLM che spieghi l’endpoint compatibile con OpenAI e la configurazione TOML/.env menzionata nell’issue. Il lavoro è completato quando la guida rapida si integra con la documentazione esistente e fornisce ai lettori le informazioni necessarie per configurare AnyLLM.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Hi team,
I've been following EverOS — the local-first, Markdown-as-single-source-of-truth
design and the engineering discipline here (import-linter layering, dead-letter
queues, CI gates) are genuinely impressive.
Why I'm opening this issue:
EverOS runs LLM calls as a continuous background workload: atomic fact
extraction, skill clustering, embeddings, and rerank all fire on every
conversation, not just on user prompts. That makes two things matter a lot:
- Cost — background extraction at scale multiplies token spend quietly
- Model choice per task — fact extraction, embedding, and rerank each
have different optimal models, and being able to swap them freely matters
for a memory layer that's supposed to be user-owned and vendor-neutral
Suggestion:
Add a provider quickstart entry for AnyLLM (https://anyllm.dev) alongside
your existing provider quickstarts — it's an OpenAI-compatible API gateway
that puts 24+ models behind one key and one base URL:
- Chinese frontier models: DeepSeek V4, Qwen3.7-Plus, GLM-5.2 (2M context),
Kimi K2.5/K3, MiniMax M3 - International models: GPT-5.6, Gemini 3.5, and more
- Pass-through pricing (zero markup), international cards + crypto accepted
- Built-in routing and automatic failover — useful for the OME's retry
behavior when a provider has an outage
For a project whose philosophy is "user-owned, not vendor-owned," a gateway
that keeps every model one config change away seems like a natural fit.
EverOS itself wouldn't need any code changes — it's just a TOML/.env config
pointing at one endpoint.
Happy to open a PR with the quickstart doc if that's welcome.
(Context: I'm the developer of AnyLLM, an OpenAI-compatible API gateway.)
— Leo Bennett
[email protected]
- Lingua principale
- Python
- Stelle
- 13.3k
- Fork
- 926
- Merge medio
- 17h 8m
- PR unite (30g)
- 32
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di EverMind-AI/EverOS
-
[Offer] Free independent recomputation of your published memory benchmarks (assayed-tier upgrade)Aperta
Difficoltà 4/5 1-2 giorni Idoneità per principianti 3/100
EverMind-AI/EverOS#504 ·
I maintainer di solito rispondono entro 1 giorno
-
enhancement
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
EverMind-AI/EverOS#501 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 55/100
EverMind-AI/EverOS#498 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 35/100
EverMind-AI/EverOS#485 ·
I maintainer di solito rispondono entro 1 giorno
-
memory: add POST /api/v2/memory/delete so everos-mcp forget_session works on self-hosted serversApertaenhancement
Difficoltà 5/5 Più di una settimana Idoneità per principianti 12/100
EverMind-AI/EverOS#483 ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di EverMind-AI/EverOS
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 64/100
aws-samples/sample-per-model-bedrock#295 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 76/100
pyrevitlabs/pyRevit#3792 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 69/100
zephyrproject-rtos/reqmgmt#177 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
polarsource/polar#15580 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 85/100
521xueweihan/HelloGitHub#4011 ·