Support for LFM2-VL models
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 45/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- python
- Lĩnh vực
- ai, machine-learning
Hướng nghiên cứu
Xem xét các handler đa phương thức hiện có trong llama-cpp-python, có thể nằm trong thư mục mã nguồn dành cho bindings. Tìm hiểu cách các bộ mã hóa thị giác (mmproj) được tích hợp. Kiểm tra tài liệu llama-cpp để biết các đặc điểm cụ thể của mô hình LFM2-VL. Thử tải một mô hình ở định dạng GGUF và thêm một handler để xử lý đầu vào thị giác.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Is your feature request related to a problem? Please describe.
LiquidAI provides LFM2-VL models (450M, 1.6B, 3B) as GGUF formats (Q4_0, Q8_0, F16) supported in llama-cpp.
It would be great to make them work in Python via llama-cpp-python, i.e. implement the multi-modal handler for them:
https://llama-cpp-python.readthedocs.io/en/latest/#multi-modal-models
Describe the solution you'd like
Support for LFM2-VL models (handler allowing to use mmproj of the vision encoder).
- Ngôn ngữ chính
- Python
- Star
- 10.6k
- Fork
- 1.5k
- Merge trung bình
- 3 giờ 57 phút
- Pull request đã merge (30 ngày)
- 4
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của abetlen/llama-cpp-python
-
Seven llama_sampler_init_* bindings admit keyword arguments that the ctypes function object silently dropsCó thể đã có người làm @Belal0066 đã nhận 15 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
abetlen/llama-cpp-python#2371 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
uv add llama-cpp-python wheels fails for versions above 0.3.30Có thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2352 · 1 bình luận · 2 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Docs: consolidate build-from-source and GPU backend guideCó thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
abetlen/llama-cpp-python#2314 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2211 · 2 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Llama() silently accepts and discards `embedding` kwarg; .embed() then raises confusinglyCó thể đã có người làm @Anai-Guo đã nhận 32 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2210 ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của abetlen/llama-cpp-python
Issue tương tự
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
Vector35/community-plugins#376 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
py-econometrics/pyfixest#1883 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bad links in rfc5890.htmlĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
ietf-tools/rfc2html#81 ·
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
mysql/mysql-operator#60 ·
-
Python: Bug: split_plaintext_paragraph / split_markdown_paragraph can return a chunk larger than max_tokensCó thể đã có người làm @xThreeh đã nhận hôm nay. Đang mởpython triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
microsoft/semantic-kernel#14566 ·
Maintainer thường phản hồi trong vòng 4 ngày