GPU builds of the llama-rpc image (CUDA, Vulkan)
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 30/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- docker, github-actions
- Lĩnh vực
- devops, infrastructure
Hướng nghiên cứu
Start with the image build in .github/workflows/llama-rpc.yml, then find where llama-distributed reads the GPU inventory and chooses a worker's variant. Done means CUDA and Vulkan tags are built, the right tag is picked per machine, and GPU workers are marked with "gpu": true. The issue does not say how a worker reports its GPU, so check that first.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
ghcr.io/a-hackers-guide/llama-rpc is CPU-only today. Add CUDA and Vulkan variants (tags like b12019-cuda, b12019-vulkan) built in .github/workflows/llama-rpc.yml, and let llama-distributed pick the variant per machine from its GPU inventory. Mark GPU workers with "gpu": true once the image can use them.
- Ngôn ngữ chính
- Go
- Star
- 1
- Fork
- 0
- Merge trung bình
- 12 phút
- Pull request đã merge (30 ngày)
- 2
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của A-Hackers-Guide/sys1
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 15/100
A-Hackers-Guide/sys1#31 · 1 bình luận ·
-
known limitation reliability storage
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 18/100
A-Hackers-Guide/sys1#27 · 1 bình luận ·
-
Remote dashboard access modeĐang mởknown limitation security
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
A-Hackers-Guide/sys1#26 ·
-
distribution security
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
A-Hackers-Guide/sys1#25 ·
-
integration roadmap
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 22/100
A-Hackers-Guide/sys1#21 ·
Tất cả issue của A-Hackers-Guide/sys1
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
Maintainer thường phản hồi trong vòng 1 ngày
-
security trivy
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 83/100
kubefleet-dev/kubefleet#1038 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
koordinator-sh/koordinator#3257 ·
Maintainer thường phản hồi trong vòng 6 ngày
-
A non-terminal `tool.execution_partial_result` clears the `report_intent` suppression filterĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 92/100
Maintainer thường phản hồi trong vòng 1 ngày