Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

suggestion: move from qwen3 for emb to qwen3-vl-embedding / reranking

Đang mở
  • Có gì không ổn?
#35 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
5/5
Thời gian dự kiến
Hơn một tuần
Mức phù hợp với người mới
25/100
Loại issue
Tính năng
Độ rõ ràng
Cần làm rõ
Mức độ hoạt động
Đình trệ
Công nghệ
c
Lĩnh vực
machine-learning

Hướng nghiên cứu

Bắt đầu bằng cách đọc phần tích hợp embedding hiện có trong flux2.c, sau đó xem xét repository Qwen3-VL-Embedding và báo cáo kỹ thuật được liên kết trong issue. Xác định xem các model được đề xuất có thể được biểu diễn và sử dụng bởi project này hay không, cũng như các embedding của chúng có tương thích với flux2 hay không. Công việc được xem là hoàn tất khi có một hướng tích hợp cụ thể, đã được kiểm chứng, hoặc khi chứng minh được rằng đề xuất này cần một cơ chế hỗ trợ riêng trong hệ sinh thái.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Disclaimer: This suggestion may be outside the scope of this project and might be better suited as a completely separate, standalone effort. Feel free to close it without further comment.

I’m wondering whether the qwen3-vl-embedding / reranking models could be integrated into flux2.c in some way. qwen3-vl-embedding is a state-of-the-art model (as of early Jan 2026) for multimodal embeddings: the input can be text, images, or video, and it produces an embedding from the input plus an optional instruction. qwen3-vl-reranking is the complementary reranking model: given an input, a query, and an optional instruction, it outputs a relevance score. Repeating this with multiple inputs and the same query yields a set of relevance scores for the collection.

qwen3-vl-embedding was trained with QAT and supports Matryoshka embeddings, so the output vectors can be quantized to lower precision (e.g., int4) and truncated to smaller sizes (e.g., from 2048 to 256) with minimal performance degradation.

Both models are available in 2B and 8B parameter versions.

At the moment, these models are not widely supported by the ML/AI ecosystem. They are not yet supported by llama.cpp or by mlx, although GGUF conversion appears to be possible — I’ve tried using the ggml-org/gguf-my-repo conversion tool.

Perhaps qwen3-vl-embedding could enable additional input modes for flux2.c (e.g., video, image, or text, with an optional instruction to steer the representation).

My main concern is that even though the backbone used to produce the embeddings is still qwen3, the additional training involved in creating qwen3-vl-embedding might have resulted in embeddings that are not compatible with those expected by the flux2 model.

References:

Ngôn ngữ chính
C
Star
2k
Fork
153
Không có pull request nào được merge trong 30 ngày

Chuẩn bị môi trường

Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của antirez/iris.c

Tất cả issue của antirez/iris.c

Issue tương tự

Thêm issue về C

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.