ask about this project
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 1/5
- Tiempo estimado
- Menos de una hora
- Aptitud para principiantes
- 20/100
- Tipo de issue
- Documentación
- Claridad
- Necesita aclaración
- Estado de actividad
- Tranquilo
- Área
- ai, backend-api-design
Línea de trabajo
This issue asks broad questions about SIE's architecture, model catalog, deployment, performance, API compatibility, and roadmap; it does not name files or tests to start from. Read the project documentation and existing discussions, then check whether a maintainer has responded to the questions. Done means providing answers grounded in the project's current behavior and plans.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
SIE unifies embeddings, reranking, and extraction under one API with on-demand loading + LRU eviction. What were the biggest technical challenges in supporting such a diverse set of architectures (dense, sparse, multi-vector, ColBERT, vision, cross-encoders, GLiNER, etc.) in a single Rust/Python backend?
How do you handle model compatibility and quality verification? You mentioned MTEB CI checks — what’s your process for adding new models, and how often do you update the 85+ model catalog?
Memory management: What’s the practical limit for running multiple large models simultaneously on a single GPU (e.g., 24GB or 80GB)? Any clever optimizations for mixed precision, quantization, or batching?
In production (Kubernetes with KEDA autoscaling), what kind of latency and throughput do you typically see for common models like BGE, Stella, or BGE-reranker on GPU vs CPU?
Compared to alternatives like vLLM, TGI, Ollama, or dedicated embedding servers (e.g., TEI), what are the biggest advantages and trade-offs of SIE?
OpenAI-compatible /v1/embeddings endpoint is great for migration. How complete is the compatibility, and do you plan to expand it (e.g., reranking or extraction endpoints)?
If someone wants to add custom models or new task types (e.g., more advanced extraction, OCR, or multimodal), what’s the best way to extend SIE while keeping it within the unified API?
Plans for the roadmap: Any support for fine-tuned models, LoRA adapters, continuous batching, or more advanced routing strategies?
The project mixes Rust (core performance) and Python. How do you manage the boundary, and any lessons learned from that hybrid approach?
- Lenguaje dominante
- Python
- Estrellas
- 3.5k
- Forks
- 328
- Merge medio
- 16 h 25 min
- PR fusionados (30 d)
- 121
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de superlinked/sie
-
MODEL_NOT_FOUND gives no suggestion for a model listed only as model:profilePosiblemente ocupada @ShaiShmuel la tomó hoy. Abiertoenhancement rust
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
superlinked/sie#985 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 4/5 3-5 días Aptitud para principiantes 42/100
superlinked/sie#969 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
superlinked/sie#903 · 4 comentarios ·
Los mantenedores suelen responder en 1 día
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
superlinked/sie#892 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
superlinked/sie#851 · 4 comentarios ·
Los mantenedores suelen responder en 1 día
Todos los issues de superlinked/sie
Issues similares
-
Feature Request
Dificultad 1/5 1-3 horas Aptitud para principiantes 68/100
spotDL/spotify-downloader#2839 ·
Los mantenedores suelen responder en 1 día
-
Missing license fileAbierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 85/100
-
ops/setup.py writes ops/hub.json non-atomically (the torn-write class of #219, in the installer)Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 79/100
mattabate/life-distributable#230 ·
Los mantenedores suelen responder en 1 día
-
enhancement triage:not-checked
Dificultad 2/5 1-3 horas Aptitud para principiantes 66/100
inventree/InvenTree#13318 · 1 reacción ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
google/secops-wrapper#229 ·