Add dimensions parameter support for embeddings endpoint (Matryoshka)
Maintainer thường phản hồi trong vòng 2 ngày
@divyanshAgarwal123 đang làm issue này rồi.
Từ ngày 1/10/2026.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 68/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- cpp
- Lĩnh vực
- api, machine-learning
Hướng nghiên cứu
Bắt đầu từ EmbeddingsCalculatorOV và phần xử lý yêu cầu /v3/embeddings, sau đó lần theo luồng tính toán embedding hiện có. Hoàn thành khi một yêu cầu có dimensions trả về các embedding đã bị cắt ngắn và chuẩn hóa lại, trong khi các yêu cầu không có dimensions vẫn giữ nguyên đầu ra đầy đủ.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
The /v3/embeddings endpoint currently doesn't support the dimensions parameter from the OpenAI API.
Many modern embedding models (like ibm-granite/granite-embedding-311m-multilingual-r2, nomic-embed-text, text-embedding-3-small) support Matryoshka Representation Learning, which allows truncating embeddings to smaller dimensions without retraining.
Request
Add support for the dimensions parameter in EmbeddingsCalculatorOV to truncate and re-normalize the output embeddings.
Example request
{
"model": "my-embedding-model",
"input": "Hello world",
"dimensions": 256
}
Expected behavior
Return embeddings truncated to 256 dimensions (instead of full 768), re-normalized.
References
- Ngôn ngữ chính
- C++
- Star
- 947
- Fork
- 280
- Merge trung bình
- 3 ngày 13 giờ
- Pull request đã merge (30 ngày)
- 54
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của openvinotoolkit/model_server
-
/v3/audio/speech ignores response_format and always returns 32-bit float WAVCó thể đã có người làm @michalkulakowski đã nhận 18 ngày trước. Đang mở
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 58/100
openvinotoolkit/model_server#4613 · 3 bình luận · 1 người được giao ·
Maintainer thường phản hồi trong vòng 2 ngày
-
enhancement
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 68/100
openvinotoolkit/model_server#4609 · 5 bình luận ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Idle unload never happens again if the client disconnects while a sleeping graph is waking upCó thể đã có người làm @atobiszei đã nhận 22 ngày trước. Đang mở
openvinotoolkit/model_server#4603 · 2 bình luận · 1 người được giao ·
Maintainer thường phản hồi trong vòng 2 ngày
-
bug
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100
openvinotoolkit/model_server#4599 · 4 bình luận ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100
openvinotoolkit/model_server#4586 · 7 bình luận ·
Maintainer thường phản hồi trong vòng 2 ngày
Tất cả issue của openvinotoolkit/model_server
Issue tương tự
-
Web3 RPC: one-element batch request returns an object instead of an array (breaks ethers.js v6)Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
FISCO-BCOS/FISCO-BCOS#5706 ·
Maintainer thường phản hồi trong vòng 3 ngày
-
[开源推荐] Windows 系统维护工具箱，支持后台任务队列Đang mở
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
521xueweihan/HelloGitHub#4011 ·
-
docs(simulation): Quickstart publishes UDP 14550, which the SITL images' own docs say not to doĐang mởstatus:needs-triage
Độ khó 1/5 1-3 giờ Mức phù hợp với người mới 78/100
PX4/PX4-Autopilot#29292 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug core p3
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
RunanywhereAI/runanywhere-sdks#1142 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
I/O internal correctness medium priority rt_lib
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 79/100
Maintainer thường phản hồi trong vòng 1 ngày