[FEATURE REQUEST] Configurable Embedding for Knowledge Base

Offen
  • Stimmt etwas nicht?
#3,037 14 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Maintainer antworten meist innerhalb von 1 Tag

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Anfängerfreundlichkeit
58/100
Issue-Typ
Feature
Klarheit
Größtenteils klar
Aktivitätsstatus
Aktiv
Tech-Stack
ollama, typescript
Bereich
ai, backend, search

Rechercherichtung

Start by tracing the Knowledge Base settings and the existing Ollama/vLLM LLM provider setup, which the issue identifies as the architectural pattern. Map where embedding configuration is selected and used, then confirm that OpenAI remains the default and Ollama models support fully offline RAG workflows.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

feature

Is your feature request related to a problem? Please describe.
Currently, Knowledge Base only supports OpenAI for embeddings, requiring external API calls. This prevents fully offline/private RAG workflows, despite Sim already supporting local LLMs via Ollama.

Describe the solution you'd like
Add embedding provider selection to Knowledge Base settings (similar to LLM provider selection):
OpenAI (current default)
Ollama (nomic-embed-text, mxbai-embed-large, etc.)

Describe alternatives you've considered
Adding custom function blocks to the workflow: It requires coding
Current OpenAI works but prevents offline/private deployments

Additional context
Follows existing architecture pattern (Ollama/vLLM already supported for LLMs) where users bring their own models (like current Ollama setup)
Enables 100% offline RAG (local LLM + local embeddings)
Privacy-conscious users/enterprises need this for compliance

Vorherrschende Sprache
TypeScript
Sterne
29.8k
Forks
3.9k
Ø Merge
1 Std. 44 Min.
Gemergte PRs (30 T.)
841

Entwicklungsumgebung

Dieses Projekt bietet weder Dev-Container noch Dockerfile noch Beitragsleitfaden – die Einrichtung liegt bei Ihnen. Beginnen Sie mit der README; die allgemeinen Schritte stehen in unserem Leitfaden für den ersten Beitrag.

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus simstudioai/sim

Alle Issues in simstudioai/sim

Ähnliche Issues

Weitere Issues zu TypeScript

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.