mem0ai/mem0

feat(ts-sdk): add vLLM LLM provider

Open

#5.761 geöffnet am 23. Juni 2026

Auf GitHub ansehen
 (1 Kommentar) (0 Reaktionen) (0 zugewiesene Personen)Python (6.343 Forks)batch import
enhancementgood first issuehelp wantedsdk-typescriptsize:S

Repository-Metriken

Stars
 (55.741 Stars)
PR-Merge-Metriken
 (Durchschn. Merge 6T 11h) (208 gemergte PRs in 30 T)

Beschreibung

Summary

The Python SDK supports vLLM as an LLM provider, but the TypeScript OSS SDK (mem0ai/oss) does not. Add it to bring the TS SDK to parity.
Python reference mem0/llms/vllm.py
Registered in (Python) mem0/utils/factory.py (LLMFactory)
Target file (TypeScript) mem0-ts/src/oss/src/llms/vllm.ts
Suggested implementation OpenAI-compatible — subclass OpenAILLM; baseURL points to the user's vLLM server.

Requirements

  • Implement VllmLLM in mem0-ts/src/oss/src/llms/vllm.ts, extending LLM (mem0-ts/src/oss/src/llms/base.ts) and mirroring the Python provider's behavior (generateResponse / generateChat).
  • Register the "vllm" provider in mem0-ts/src/oss/src/utils/factory.ts (LLMFactory).
  • Add config typing in mem0-ts/src/oss/src/types/.
  • Add a unit test under mem0-ts/src/oss/src/tests/.
  • No new dependency — reuse the existing openai client with a custom baseURL.
  • Update docs under docs/ if this provider is user-facing.

Reference pattern

Mirror an existing TS provider: llms/deepseek.ts (OpenAI-compatible) or llms/openai.ts.

Notes

vLLM serves an OpenAI-compatible endpoint; the baseURL is user-supplied (no hosted default).

Part of the TypeScript ↔ Python SDK provider-parity effort. One provider per issue (atomic).

Contributor Guide

Research-Richtung
Untersuchen Sie die vorhandenen OpenAI kompatiblen Anbieter (z. B. deepseek.ts), um die VllmLLM Klasse zu modellieren. Beziehen Sie sich auf die Python Implementierung unter mem0/llms/vllm.py für das Verhalten. Implementieren Sie den Anbieter in mem0 ts/src/oss/src/llms/vllm.ts, registrieren Sie ihn in factory.ts, fügen Sie Typen hinzu und schreiben Sie einen Test. Keine neuen Abhängigkeiten erforderlich.
Tech Stack
typescript
Domain
backend
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
2
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
1-3 Stunden
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Aktiv
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
TypeScriptGit
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
80