咨询下载这个用sglang 最低多少显存能跑
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 30/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Ít trao đổi
- Công nghệ
- python
- Lĩnh vực
- ai, machine-learning
Hướng nghiên cứu
Báo cáo chỉ xác định sglang, hai GPU RTX 3090 và một lỗi xảy ra khi bắt đầu generation; không có file, traceback hoặc test nào được nêu. Trước tiên, hãy tái hiện bước generation với phần cứng đó và ghi lại toàn bộ lỗi, sau đó xác định entry point Python liên quan đến generation; được xem là hoàn tất khi đã xác lập VRAM tối thiểu được tài liệu hóa và một lần chạy generation thành công.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
双卡3090 跑起来后,执行生成就直接报错
- Ngôn ngữ chính
- Python
- Star
- 1.1k
- Fork
- 97
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Chuẩn bị môi trường
Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của OpenMOSS/MOVA
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
-
Verify evals on Papers with CodeĐang mở
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 48/100
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 38/100
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 48/100
-
两个角色的时候，会出现对白混乱的情况，请问有什么策略可优化Đang mở
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
Tất cả issue của OpenMOSS/MOVA
Issue tương tự
-
Validate non-divisible effective batch sizes in the Unsloth LoRA backendCó thể đã có người làm @debesh-biswas đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
reflex-dev/reflex#7634 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 2 ngày
-
documentation
Độ khó 1/5 1-3 giờ Mức phù hợp với người mới 82/100
topoteretes/cognee#6239 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
ranaroussi/yfinance#3009 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Test discovery aborts on GPU builds without cuStateVec: check_cuStateVec expects a failed result but set_config() now raises RuntimeErrorCó thể đã có người làm @dmeliksetian đã nhận hôm nay. Đang mởbug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
Qiskit/qiskit-aer#2495 ·
Maintainer thường phản hồi trong vòng 1 ngày