Python bindings for llama.cpp

abetlen/llama-cpp-python có thân thiện với người mới không?

Trong 30 ngày gần nhất, abetlen/llama-cpp-python đã merge 0 trên 25 pull request của người đóng góp bên ngoài, và maintainer thường phản hồi trong vòng 1 ngày. Hiện có 40 issue phù hợp với người mới đang mở.

Star
10.7k
Fork
1.5k
Issue cho người mới đang mở
40
Issue đã lập chỉ mục
603
Merge trung bình
1 giờ 40 phút
Pull request đã merge (30 ngày)
5
Ngôn ngữ chính
Python
Giấy phép
MIT
Lần push lên GitHub gần nhất
15/11/2026
Lập chỉ mục gần nhất
14/9/2026
Hướng dẫn đóng góp
Hướng dẫn đóng góp
Quy tắc ứng xử
Không có quy tắc ứng xử
Label cho người mới
help wanted

Cách đóng góp cho abetlen/llama-cpp-python

  1. Hãy đọc hướng dẫn đóng góp trước: nó cho biết maintainer muốn thay đổi được đề xuất, kiểm thử và review ra sao.
  2. Đóng góp của bạn sẽ được phát hành theo giấy phép MIT của dự án.
  3. Chọn một trong 40 issue phù hợp với người mới đang mở bên dưới và bình luận rằng bạn muốn làm nó trước khi bắt đầu.

Các issue có thể đã có người làm được xếp cuối danh sách. Sắp xếp tất cả theo ngày

  • Windows: every failed `import llama_cpp` prepends to PATH and adds DLL directories again
    Đang mở

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100

    abetlen/llama-cpp-python#2424 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • I would like to test out laya of system1 models
    Đang mở

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

    abetlen/llama-cpp-python#2405 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • macOS arm64 wheels for 0.3.35 / 0.3.36 fail their own CRC check (Bad CRC-32), so pip can't install them
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 58/100

    abetlen/llama-cpp-python#2402 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Bug] DFlash 2 speculative decoding crashes and fails in Python due to missing ctx_other and non-autoregressive graph execution
    Đang mở

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100

    abetlen/llama-cpp-python#2361 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Support sm100 and sm120 in CUDA pre‑built wheels
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 65/100

    abetlen/llama-cpp-python#2341 · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Feature Request: SuperCompress prompt preprocessing for llama-cpp-python
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100

    abetlen/llama-cpp-python#2326 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Docs: consolidate build-from-source and GPU backend guide
    Đang mở

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100

    abetlen/llama-cpp-python#2314 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Request for Gemma 3 4B & Gemma 4 Integration Support with llama-cpp-python
    Có thể làm lại được @acarcay đã nhận 75 ngày trước và không có pull request nào đang mở. Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2231 · 2 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Llava15ChatHandler - Cache Image Encoding
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2222 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Asset seeder disabled 'resemble-perth' not found. watermarking will be unavailable.
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100

    abetlen/llama-cpp-python#2219 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Llama.embed() calls LlamaBatch.add_sequence with old 3-arg signature; missing logits_array
    Có thể làm lại được @lxcxjxhx đã nhận 136 ngày trước và không có pull request nào đang mở. Đang mở

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100

    abetlen/llama-cpp-python#2211 · 2 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Can RotorQuant/TurboQuant and dflash support be added?
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2184 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • How to use "Gemma-4-E4B-it-heretic-GGUF" ?
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2175 · 3 bình luận · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • feat: Update vendored llama.cpp to include ModernBERT support
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2144 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Multiple calls to create_chat_completion() fail with "llama_decode: failed to decode, ret = -1"
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 55/100

    abetlen/llama-cpp-python#2140 · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Improve installation DX: prebuilt wheels for 3.13/3.14/3.14t + declarative backend selection
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2136 · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Pre-built CPU-only wheel for Windows (cp313) for version 0.3.16+ (Gemma 3 support)
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2130 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Up to date llama.cpp wheel here (native libraries)
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2123 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Pre-built manylinux wheel for llama_cpp_python (Linux, Python 3.10)
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100

    abetlen/llama-cpp-python#2119 · 2 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Deployment Issue] Installation deadlock on Hugging Face Spaces (CPU): Wheels fail (musl/glibc mismatch) & Source builds timeout
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2118 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Please add support or tell me if there are ANY wheels for llama.cpp that can run on debian/ubuntu
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2113 · 3 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • How to run dots ocr gguf model via llama-cpp on windows11?
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2111 · 3 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • LlamaPromptLookupDecoding gives no performance improvement
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2110 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Build error with LLGUIDANCE
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 30/100

    abetlen/llama-cpp-python#2107 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Build fails with Target "ggml-cuda" links to: CUDA::cublas but the target was not found.
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2106 · 3 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Support for LFM2-VL models
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2105 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Add support for Qwen3-vl models
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2098 · 6 bình luận · 13 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • There is a bug in urlopen() when using image_url with credentials.
    Đang mở

    Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100

    abetlen/llama-cpp-python#2096 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Build Failure When Enabling KleidiAI on ARMv9 in llama-cpp-python ≥ 3.10.0
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2095 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Add support for experimental wheel variants (i.e., wheelnext)
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2092 ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • cu128 wheel
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

    abetlen/llama-cpp-python#2091 · 1 bình luận · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • vulkan - windows
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2090 · 3 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • how to compile on last gcc?
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2081 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Feature Request: support qwen3-vl series
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

    abetlen/llama-cpp-python#2080 · 23 bình luận · 15 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • CUDA wheel installs, but GPU is never used on Windows 11 (Python 3.11, CUDA 12.1, torch finds GPU)
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2079 · 3 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Direct image input via PIL instead of Base64
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2078 · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Periodic alignment with upstream
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2076 · 3 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Support for MiniCPM-V 4.5
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2075 · 1 bình luận · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • AttributeError: function 'llama_get_kv_self' not found. Did you mean: 'llama_get_model'? after compiling llama-cpp-python on Windows
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2074 · 3 bình luận · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Failed to load shared library on SnapDragon X Plus CPU, ERROR [Window Error 1114] A dynamic link library (DLL) Initialization routine failed.
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2070 · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Expose `ggml_backend_load()` and `ggml_backend_load_all()` to make use of builds with `GGML_BACKEND_DL=ON` and `GGML_CPU_ALL_VARIANTS=ON`
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2069 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • unknown model architecture: 'gemma-embedding'
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2065 · 5 bình luận · 9 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • llama_get_kv_self debug symbols removed
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2064 · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Thinking toggle support for Qwen related models
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2063 · 10 bình luận · 3 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • ggml_cuda_init: failed to initialize CUDA: (null) on Windows with CUDA 12.9
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2062 · 2 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • ERROR installing v0.3.16 with CUDA enabled on docker
    Đang mở

    Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 45/100

    abetlen/llama-cpp-python#2061 · 3 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • [Bug Report] Severe VRAM Allocation Instability in PyTorch after llama-cpp-python is Imported
    Đang mở

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 30/100

    abetlen/llama-cpp-python#2060 · 1 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Cannot install current version of llama-cpp-python 0.3.16 on Windows (backend independent)
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100

    abetlen/llama-cpp-python#2057 · 7 bình luận ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • cannot run fine-tuned gpt-oss model correctly
    Đang mở

    Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100

    abetlen/llama-cpp-python#2054 · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

  • Adding Audio capabilities
    Đang mở

    Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 20/100

    abetlen/llama-cpp-python#2052 · 1 reaction ·

    Maintainer thường phản hồi trong vòng 1 ngày

Đang hiển thị 100 mục mới nhất

Trang này chỉ liệt kê những gì được lập chỉ mục gần đây. Bộ lọc nâng cao có toàn bộ kho, thu hẹp theo ngôn ngữ, độ khó và thời lượng.

Mở bộ lọc nâng cao

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.