replit: Full CUDA Support
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 10/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Cần làm rõ
- Mức độ hoạt động
- Đình trệ
- Lĩnh vực
- ai-infra-agents, backend-api-design
Hướng nghiên cứu
Issue liệt kê các tính năng CUDA còn thiếu cho các binding ggml-python. Hãy bắt đầu bằng cách xem xét phần hỗ trợ CUDA hiện có trong thư viện ggml và mã của các binding Python. Tìm các lớp chuẩn hóa, các triển khai phép nhân ma trận, cách xử lý layer trên nhiều GPU và các cơ chế offloading bộ nhớ. Xác định “proper offloading (no alloc)” có nghĩa là gì trong ngữ cảnh này và nó khác với hành vi hiện tại như thế nào.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Missing
- Norm layers
- Mat Mul's
- N GPU Layers
- Proper Offloading (no alloc)
- Ngôn ngữ chính
- Python
- Star
- 152
- Fork
- 16
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của abetlen/ggml-python
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
abetlen/ggml-python#91 ·
-
Import errorĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/ggml-python#90 ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
abetlen/ggml-python#93 · 1 bình luận ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100
abetlen/ggml-python#92 ·
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 30/100
abetlen/ggml-python#21 ·
Tất cả issue của abetlen/ggml-python
Issue tương tự
-
[Bug]: LangGraph Store sync put bypasses namespace validationCó thể đã có người làm @ktz03 đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
volcengine/OpenViking#6050 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
[Bug]: Streamed /v1/chat/completions sends unredacted agent error text (keys) in the final chunkCó thể đã có người làm @rodricksz4h5 đã nhận hôm nay. Đang mởarea/streaming comp/gateway P2 type/security
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
NousResearch/hermes-agent#138245 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
[oblt-aw][autodoc] Update user onboarding guide for mandatory trigger CODEOWNERS stepCó thể đã có người làm @github-actions đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 66/100
Maintainer thường phản hồi trong vòng 1 ngày
-
correction metadata
Độ khó 2/5 Dưới một giờ Mức phù hợp với người mới 68/100
acl-org/acl-anthology#10378 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
cloudtrail_multi_region_enabled_logging_management_events fails when the advanced event selector has a custom nameCó thể đã có người làm @12YYCCYY16 đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
prowler-cloud/prowler#13033 ·
Maintainer thường phản hồi trong vòng 1 ngày