Wrong `chat_format` documented for Moondream 2

Đang mở Phù hợp với người mới
#1,996 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
1/5
Thời gian dự kiến
Dưới một giờ
Mức phù hợp với người mới
90/100
Loại issue
Tài liệu
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Đình trệ
Công nghệ
python
Lĩnh vực
documentation

Hướng nghiên cứu

Issue trỏ đến tệp README.md, dòng 504, nơi chat_format không đúng 'moondream2' được ghi lại. Định dạng đúng 'moondream' nằm trong mã nguồn tại llama_cpp/server/model.py, dòng 118. Chỉnh sửa README.md để thay 'moondream2' bằng 'moondream'. Xác minh thay đổi bằng cách kiểm tra danh sách các định dạng hợp lệ trong thông báo lỗi hoặc mã nguồn.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Hi! 👋

I was testing the Server API with Moondream 2 as the model, and the documented chat_format, moondream2, threw an error:

Error code: 500 - {'error': {'message': "Invalid chat handler: moondream2 (valid formats: ['llama-2', 'llama-3', 'alpaca', 'qwen', 'vicuna', 'oasst_llama', 'baichuan-2', 'baichuan', 'openbuddy', 'redpajama-incite', 'snoozy', 'phind', 'intel', 'open-orca', 'mistrallite', 'zephyr', 'pygmalion', 'chatml', 'mistral-instruct', 'chatglm3', 'openchat', 'saiga', 'gemma', 'functionary', 'functionary-v2', 'functionary-v1', 'chatml-function-calling'])", 'type': 'internal_server_error', 'param': None, 'code': None}}

Looking at the code, it appears that the correct chat_format is moondream and not moondream2 (moondream worked as expected).

What do you think?

Let me know if I can open a PR to fix the documented chat_format, please.

Thank you for this project! 😄

Ngôn ngữ chính
Python
Star
10.6k
Fork
1.5k
Merge trung bình
23 phút
Pull request đã merge (30 ngày)
1

Hướng dẫn đóng góp

Mở hướng dẫn đóng góp

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của abetlen/llama-cpp-python

Tất cả issue của abetlen/llama-cpp-python

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.