ask about this project
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 1/5
- 見積もり時間
- 1時間未満
- 初心者へのやさしさ
- 20/100
- issue の種類
- ドキュメント
- 明瞭さ
- 説明が足りない
- 活発さ
- 静か
- 領域
- ai, backend-api-design
調査の方向性
This issue asks broad questions about SIE's architecture, model catalog, deployment, performance, API compatibility, and roadmap; it does not name files or tests to start from. Read the project documentation and existing discussions, then check whether a maintainer has responded to the questions. Done means providing answers grounded in the project's current behavior and plans.
索引モデルが issue の本文から書いたものです。
説明
SIE unifies embeddings, reranking, and extraction under one API with on-demand loading + LRU eviction. What were the biggest technical challenges in supporting such a diverse set of architectures (dense, sparse, multi-vector, ColBERT, vision, cross-encoders, GLiNER, etc.) in a single Rust/Python backend?
How do you handle model compatibility and quality verification? You mentioned MTEB CI checks — what’s your process for adding new models, and how often do you update the 85+ model catalog?
Memory management: What’s the practical limit for running multiple large models simultaneously on a single GPU (e.g., 24GB or 80GB)? Any clever optimizations for mixed precision, quantization, or batching?
In production (Kubernetes with KEDA autoscaling), what kind of latency and throughput do you typically see for common models like BGE, Stella, or BGE-reranker on GPU vs CPU?
Compared to alternatives like vLLM, TGI, Ollama, or dedicated embedding servers (e.g., TEI), what are the biggest advantages and trade-offs of SIE?
OpenAI-compatible /v1/embeddings endpoint is great for migration. How complete is the compatibility, and do you plan to expand it (e.g., reranking or extraction endpoints)?
If someone wants to add custom models or new task types (e.g., more advanced extraction, OCR, or multimodal), what’s the best way to extend SIE while keeping it within the unified API?
Plans for the roadmap: Any support for fine-tuned models, LoRA adapters, continuous batching, or more advanced routing strategies?
The project mixes Rust (core performance) and Python. How do you manage the boundary, and any lessons learned from that hybrid approach?
- 主要言語
- Python
- スター
- 3.5k
- フォーク
- 328
- 平均マージ
- 16時間 25分
- マージ済み PR(30日)
- 121
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
superlinked/sie のほかの issue
-
MODEL_NOT_FOUND gives no suggestion for a model listed only as model:profile対応中かも @ShaiShmuel が今日担当しました。 オープンenhancement rust
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
superlinked/sie#985 ·
メンテナーはふだん 1 日以内に返信
-
難易度 4/5 3〜5日 初心者へのやさしさ 42/100
superlinked/sie#969 ·
メンテナーはふだん 1 日以内に返信
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
superlinked/sie#903 · コメント 4 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
superlinked/sie#892 ·
メンテナーはふだん 1 日以内に返信
-
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
superlinked/sie#851 · コメント 4 件 ·
メンテナーはふだん 1 日以内に返信
superlinked/sie の issue をすべて見る
似ている issue
-
Feature Request
難易度 1/5 1〜3時間 初心者へのやさしさ 68/100
spotDL/spotify-downloader#2839 ·
メンテナーはふだん 1 日以内に返信
-
Missing license fileオープン
難易度 1/5 1時間未満 初心者へのやさしさ 85/100
-
ops/setup.py writes ops/hub.json non-atomically (the torn-write class of #219, in the installer)オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 79/100
mattabate/life-distributable#230 ·
メンテナーはふだん 1 日以内に返信
-
enhancement triage:not-checked
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
inventree/InvenTree#13318 · リアクション 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
google/secops-wrapper#229 ·