Compare dimension truncation (Matryoshka) with quantization
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 75/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Đặc tả rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- postgresql, python
- Lĩnh vực
- data, machine-learning
Hướng nghiên cứu
Start in src/shrinkvec/codecs/ and read make_codec in codecs/__init__.py to understand how codec names are parsed. Add a wrapper codec that truncates to the first m dimensions and renormalises, then check how codecs are included in the lab and chart. Done means truncation and combined truncation plus quantization appear there, byte counts use the shorter vectors, and a test confirms full-dimension truncation equals float32.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Matryoshka models (OpenAI text-embedding-3, Nomic and others) can be cut to fewer dimensions. Teams ask whether to shorten the vectors, quantize them, or both. The lab should answer that on their data.
Where to start: src/shrinkvec/codecs/. A wrapper codec that keeps the first m dimensions and renormalises, which can be combined with any other codec (for example trunc-512, trunc-512+rabitq-4). make_codec in codecs/__init__.py parses names.
Done when: truncation and truncation-plus-quantization appear in the lab and the chart, byte counts reflect the shorter vectors, and a test shows truncation to the full dimension equals float32.
- Ngôn ngữ chính
- Python
- Star
- 0
- Fork
- 0
- Merge trung bình
- 1 giờ 35 phút
- Pull request đã merge (30 ngày)
- 5
Chuẩn bị môi trường
- Có Dockerfile hoặc tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của ahmad-codex/shrinkvec
-
Memory cost view in the reportĐang mởarea: report enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
ahmad-codex/shrinkvec#15 ·
-
area: report enhancement
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 56/100
ahmad-codex/shrinkvec#16 ·
-
Faster lab scansĐang mởarea: lab help wanted performance
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100
ahmad-codex/shrinkvec#14 ·
-
Cache ground truth between runsĐang mởenhancement good first issue performance
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 72/100
ahmad-codex/shrinkvec#12 ·
-
area: lab codec enhancement
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 56/100
ahmad-codex/shrinkvec#11 ·
Tất cả issue của ahmad-codex/shrinkvec
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
pytest-dev/pytest-html#1085 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 90/100
pollen-robotics/reachy_mini#1527 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 66/100
Maintainer thường phản hồi trong vòng 2 ngày
-
Variadic arguments that aren't objects are passed as objects (stringWithFormat_ with %d / %f)Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 1 ngày
-
A seed and its negative give the same run, so realizations of a negative seed repeat each otherĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 66/100
Maintainer thường phản hồi trong vòng 1 ngày