Pre-built CPU-only wheel for Windows (cp313) for version 0.3.16+ (Gemma 3 support)
維護者通常 1 天內回覆
還沒有人認領這個 Issue。
評估
- 難度
- 3/5
- 預估耗時
- 1-2 天
- 新手友好度
- 45/100
- Issue 類型
- 功能
- 描述清晰度
- 描述清楚
- 活躍度
- 停滯
- 領域
- backend, build-system
研究方向
這個 issue 是關於建置並發布預先編譯 wheel 的 CI/CD pipeline。查看處理 Windows wheel 建置的 GitHub Actions workflows(可能位於 .github/workflows/)。目標是確保對於 0.3.16+ 版本,pipeline 能為 win_amd64 平台的 Python 3.13 (cp313) 產生一個 CPU-only wheel。檢查 release 流程和 matrix builds 的設定,確認其中是否包含 Python 3.13。成功的結果是專案的 releases 中出現一個新的 wheel。
由索引模型根據 Issue 內容生成。
描述
Hi @abetlen and the contributors,
I am currently working in a strictly restricted corporate environment where I do not have access to C++ build tools (MSVC) or direct internet access to compile packages from source. Because of this, I heavily rely on the pre-built CPU .whl releases provided here.
I am trying to run a Gemma 3 based model (Trendyol Asure 12B), but I'm encountering the unknown model architecture: 'gemma3' error. I noticed that the latest available pre-built Windows CPU wheel for Python 3.13 (cp313) in the releases is version 0.3.2, which does not yet support this architecture.
Would it be possible to trigger the build pipeline and upload a pre-built CPU-only wheel for Windows (win_amd64) for Python 3.13 (cp313) for version 0.3.16?
This would be a lifesaver for users wanting to utilize the new Gemma 3 models and can't build.
Thank you for your time and hard work!
- 主要語言
- Python
- 星號
- 10.6k
- 分支
- 1.5k
- 平均合併
- 3 小時 57 分鐘
- 30 天內合併 PR
- 4
環境準備
- 沒有 Dockerfile 或 Docker Compose 檔案
- 沒有 Pull Request 範本
- 閱讀貢獻指南
從這裡開始
- 先讀完整個 Issue,再讀專案的貢獻指南。
- 在 Issue 下留言說明你要接手 —— 這能避免兩個人做同樣的事。
- Fork 儲存庫,在一個分支上完成修改。
- 送出 Pull Request,並在描述裡引用這個 Issue 編號。
abetlen/llama-cpp-python 的其他 Issue
-
Seven llama_sampler_init_* bindings admit keyword arguments that the ctypes function object silently drops可能已有人在做 @Belal0066 於 16 天前認領。 未關閉
難度 2/5 1-3 小時 新手友好度 88/100
abetlen/llama-cpp-python#2371 ·
維護者通常 1 天內回覆
-
uv add llama-cpp-python wheels fails for versions above 0.3.30可能已有人在做 關聯的 PR 仍在進行中或已合併。 未關閉
難度 2/5 1-3 小時 新手友好度 65/100
abetlen/llama-cpp-python#2352 · 1 則留言 · 2 個 reaction ·
維護者通常 1 天內回覆
-
Docs: consolidate build-from-source and GPU backend guide可能已有人在做 關聯的 PR 仍在進行中或已合併。 未關閉
難度 2/5 1-3 小時 新手友好度 75/100
abetlen/llama-cpp-python#2314 ·
維護者通常 1 天內回覆
-
Llama.embed() calls LlamaBatch.add_sequence with old 3-arg signature; missing logits_array可能重新可做 @lxcxjxhx 於 93 天前認領,目前沒有進行中的 PR。 未關閉
難度 2/5 1-3 小時 新手友好度 65/100
abetlen/llama-cpp-python#2211 · 2 則留言 ·
維護者通常 1 天內回覆
-
Llama() silently accepts and discards `embedding` kwarg; .embed() then raises confusingly可能已有人在做 @Anai-Guo 於 34 天前認領。 未關閉
難度 2/5 1-3 小時 新手友好度 65/100
abetlen/llama-cpp-python#2210 ·
維護者通常 1 天內回覆
查看 abetlen/llama-cpp-python 的全部 Issue
相似的 Issue
-
bug
難度 2/5 1-3 小時 新手友好度 85/100
Deepak3699/Ai_Mentor#244 ·
維護者通常 1 天內回覆
-
難度 2/5 1-3 小時 新手友好度 82/100
btclib-org/btclib-node#1880 ·
維護者通常 1 天內回覆
-
CONTRIBUTING.md: say how ticketless bug fixes and feature PRs are handled可能已有人在做 @khuisman 今天認領。 未關閉v0.9.2
難度 1/5 1 小時以內 新手友好度 84/100
khuisman/mcp-gee-sweet#941 ·
維護者通常 1 天內回覆
-
難度 2/5 1-3 小時 新手友好度 68/100
pyjanitor-devs/pyjanitor#1758 ·
維護者通常 1 天內回覆
-
bug ready for review
難度 2/5 1-3 小時 新手友好度 86/100
odysseus-dev/odysseus#6641 ·
維護者通常 1 天內回覆