[FEATURE REQUEST] Configurable Embedding for Knowledge Base

Aperta
  • Qualcosa non va?
#3,037 14 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
4/5
Tempo stimato
3-5 giorni
Idoneità per principianti
58/100
Tipo di issue
Funzionalità
Chiarezza
Abbastanza chiara
Stato di attività
Attiva
Stack tecnologico
ollama, typescript
Ambito
ai, backend, search

Direzione di ricerca

Start by tracing the Knowledge Base settings and the existing Ollama/vLLM LLM provider setup, which the issue identifies as the architectural pattern. Map where embedding configuration is selected and used, then confirm that OpenAI remains the default and Ollama models support fully offline RAG workflows.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

feature

Is your feature request related to a problem? Please describe.
Currently, Knowledge Base only supports OpenAI for embeddings, requiring external API calls. This prevents fully offline/private RAG workflows, despite Sim already supporting local LLMs via Ollama.

Describe the solution you'd like
Add embedding provider selection to Knowledge Base settings (similar to LLM provider selection):
OpenAI (current default)
Ollama (nomic-embed-text, mxbai-embed-large, etc.)

Describe alternatives you've considered
Adding custom function blocks to the workflow: It requires coding
Current OpenAI works but prevents offline/private deployments

Additional context
Follows existing architecture pattern (Ollama/vLLM already supported for LLMs) where users bring their own models (like current Ollama setup)
Enables 100% offline RAG (local LLM + local embeddings)
Privacy-conscious users/enterprises need this for compliance

Lingua principale
TypeScript
Stelle
29.8k
Fork
3.9k
Merge medio
1h 44m
PR unite (30g)
841

Preparare l'ambiente

Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di simstudioai/sim

Tutte le issue di simstudioai/sim

Issue simili

Altre issue su TypeScript

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.