Docs suggestion: add an AnyLLM provider quickstart (single OpenAI-compatible endpoint for 24+ models)

Abierto Apto para principiantes
  • ¿Algo no está bien?
#414 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
2/5
Tiempo estimado
Medio día
Aptitud para principiantes
62/100
Tipo de issue
Documentación
Claridad
Bastante claro
Estado de actividad
Tranquilo
Área
documentation

Línea de trabajo

Empieza por localizar y leer las guías de inicio rápido de los proveedores existentes de EverOS para conocer su formato y qué detalles de configuración cubren. Añade una entrada sobre AnyLLM que explique el endpoint compatible con OpenAI y la configuración TOML/.env mencionada en la issue. El trabajo estará terminado cuando la guía de inicio rápido encaje con la documentación existente y proporcione a los lectores la información necesaria para configurar AnyLLM.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

Hi team,

I've been following EverOS — the local-first, Markdown-as-single-source-of-truth
design and the engineering discipline here (import-linter layering, dead-letter
queues, CI gates) are genuinely impressive.

Why I'm opening this issue:

EverOS runs LLM calls as a continuous background workload: atomic fact
extraction, skill clustering, embeddings, and rerank all fire on every
conversation, not just on user prompts. That makes two things matter a lot:

  1. Cost — background extraction at scale multiplies token spend quietly
  2. Model choice per task — fact extraction, embedding, and rerank each
    have different optimal models, and being able to swap them freely matters
    for a memory layer that's supposed to be user-owned and vendor-neutral

Suggestion:

Add a provider quickstart entry for AnyLLM (https://anyllm.dev) alongside
your existing provider quickstarts — it's an OpenAI-compatible API gateway
that puts 24+ models behind one key and one base URL:

  • Chinese frontier models: DeepSeek V4, Qwen3.7-Plus, GLM-5.2 (2M context),
    Kimi K2.5/K3, MiniMax M3
  • International models: GPT-5.6, Gemini 3.5, and more
  • Pass-through pricing (zero markup), international cards + crypto accepted
  • Built-in routing and automatic failover — useful for the OME's retry
    behavior when a provider has an outage

For a project whose philosophy is "user-owned, not vendor-owned," a gateway
that keeps every model one config change away seems like a natural fit.
EverOS itself wouldn't need any code changes — it's just a TOML/.env config
pointing at one endpoint.

Happy to open a PR with the quickstart doc if that's welcome.

(Context: I'm the developer of AnyLLM, an OpenAI-compatible API gateway.)

— Leo Bennett
[email protected]

Lenguaje dominante
Python
Estrellas
13.3k
Forks
926
Merge medio
23 h 31 min
PR fusionados (30 d)
26

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de EverMind-AI/EverOS

Todos los issues de EverMind-AI/EverOS

Issues similares

Más issues de Python

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.