Pre-built CPU-only wheel for Windows (cp313) for version 0.3.16+ (Gemma 3 support)
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 45/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Đặc tả rõ ràng
- Mức độ hoạt động
- Đình trệ
- Lĩnh vực
- backend, build-system
Hướng nghiên cứu
Issue này nói về pipeline CI/CD dùng để build và release các wheel được biên dịch sẵn. Hãy xem các workflow GitHub Actions (có thể nằm trong .github/workflows/) xử lý việc build wheel cho Windows. Mục tiêu là đảm bảo pipeline tạo ra một wheel CPU-only cho Python 3.13 (cp313) trên nền tảng win_amd64 cho phiên bản 0.3.16+. Kiểm tra quy trình release và cấu hình cho các bản build theo ma trận để xem Python 3.13 đã được bao gồm hay chưa. Kết quả thành công là một wheel mới xuất hiện trong các release của dự án.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Hi @abetlen and the contributors,
I am currently working in a strictly restricted corporate environment where I do not have access to C++ build tools (MSVC) or direct internet access to compile packages from source. Because of this, I heavily rely on the pre-built CPU .whl releases provided here.
I am trying to run a Gemma 3 based model (Trendyol Asure 12B), but I'm encountering the unknown model architecture: 'gemma3' error. I noticed that the latest available pre-built Windows CPU wheel for Python 3.13 (cp313) in the releases is version 0.3.2, which does not yet support this architecture.
Would it be possible to trigger the build pipeline and upload a pre-built CPU-only wheel for Windows (win_amd64) for Python 3.13 (cp313) for version 0.3.16?
This would be a lifesaver for users wanting to utilize the new Gemma 3 models and can't build.
Thank you for your time and hard work!
- Ngôn ngữ chính
- Python
- Star
- 10.6k
- Fork
- 1.5k
- Merge trung bình
- 3 giờ 57 phút
- Pull request đã merge (30 ngày)
- 4
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của abetlen/llama-cpp-python
-
Seven llama_sampler_init_* bindings admit keyword arguments that the ctypes function object silently dropsCó thể đã có người làm @Belal0066 đã nhận 14 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
abetlen/llama-cpp-python#2371 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
uv add llama-cpp-python wheels fails for versions above 0.3.30Có thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2352 · 1 bình luận · 2 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Docs: consolidate build-from-source and GPU backend guideCó thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
abetlen/llama-cpp-python#2314 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2211 · 2 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Llama() silently accepts and discards `embedding` kwarg; .embed() then raises confusinglyCó thể đã có người làm @Anai-Guo đã nhận 31 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2210 ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của abetlen/llama-cpp-python
Issue tương tự
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 75/100
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
data-umbrella/du-event-board#225 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100