ggml-org/llama.cpp Issues

星標: (124,043 顆星)
分叉: (21,737 個分叉)
已索引議題: (58 個已索引議題)
個開放新手議題: (38 個開放的新手議題)
最近索引: 2026年8月14日
最近 GitHub push: 2026年8月15日
授權條款: MIT License
貢獻指南: 貢獻指南
行為準則: 沒有行為準則
主要語言: C++
PR 合併指標: (平均合併 6天 8小時) (30 天內合併 389 個 PR)
新手標籤: good first issuehelp wanted

議題

58 個已索引議題

開放

Support for Sparse MoE models like Camelidae and Sparsetral

enhancementgood first issue

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #5365 · 2024年2月6日 · C++ · 124,043 顆星

6 則留言35 個反應0 位負責人

開放

MiniCPM 2b model support?

enhancementgood first issue

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #5276 · 2024年2月2日 · C++ · 124,043 顆星

26 則留言8 個反應0 位負責人

已關閉

llama : refactor the llm.build_xxx functions

good first issuerefactoringroadmap

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #5239 · 2024年1月31日 · C++ · 124,043 顆星

3 則留言3 個反應0 位負責人

開放

Include `eos_token` and `bos_token` from `tokenizer_config.json` for chat templating

enhancementhelp wanted

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #5040 · 2024年1月19日 · C++ · 124,043 顆星

12 則留言4 個反應0 位負責人

已關閉

in situ auto-Frankenmerges

enhancementgood first issue

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #4718 · 2023年12月31日 · C++ · 124,043 顆星

11 則留言2 個反應0 位負責人

開放

llama : integer type consistency in `llama.h`

enhancementgood first issuerefactoringroadmap

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #4574 · 2023年12月21日 · C++ · 124,043 顆星

4 則留言4 個反應0 位負責人

開放

GGUF endianness cannot be determined from GGUF itself

breaking changeenhancementgood first issue

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #3957 · 2023年11月5日 · C++ · 124,043 顆星

20 則留言4 個反應0 位負責人

開放

ci : fix Docker workflow

buildhelp wanted

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #3628 · 2023年10月15日 · C++ · 124,043 顆星

16 則留言0 個反應0 位負責人

已關閉

convert.py incorrectly detects LLaMAv1 65B as a LLaMAv2 model

good first issue

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #3326 · 2023年9月24日 · C++ · 124,043 顆星

3 則留言1 個反應0 位負責人

開放

Request: Nougat OCR Integration

help wantedmodel

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #3294 · 2023年9月21日 · C++ · 124,043 顆星

8 則留言13 個反應0 位負責人

已關閉

llama : combined beam search + grammar sampling strategy

generation qualitygood first issueresearch 🔬roadmap

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #2923 · 2023年8月31日 · C++ · 124,043 顆星

14 則留言20 個反應0 位負責人

開放

Using MPI w/ 65b model but each node uses the full RAM.

help wanted

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #2209 · 2023年7月13日 · C++ · 124,043 顆星

3 則留言0 個反應0 位負責人

開放

mpi : attempt inference of 65B LLaMA on a cluster of Raspberry Pis

hardwarehelp wantedresearch 🔬

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #2164 · 2023年7月10日 · C++ · 124,043 顆星

54 則留言29 個反應0 位負責人

開放

[IDEA] Global token enhancement/depression

help wantedresearch 🔬

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #1865 · 2023年6月15日 · C++ · 124,043 顆星

1 則留言0 個反應0 位負責人

已關閉

feature request - disabling tokenizer in conversion / inference

enhancementgood first issuehelp wanted

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #1765 · 2023年6月8日 · C++ · 124,043 顆星

7 則留言1 個反應0 位負責人

開放

Support CoreML like whisper.cpp?

help wantedmacosperformance

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #1714 · 2023年6月6日 · C++ · 124,043 顆星

11 則留言17 個反應0 位負責人

開放

Test replit-code-v1-3b model

help wantedmodel

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #1299 · 2023年5月3日 · C++ · 124,043 顆星

7 則留言0 個反應0 位負責人

開放

Study how LM Evaluation Harness works and try to implement it

enhancementgeneration qualityhelp wantedhigh priorityresearch 🔬

為什麼推薦尚無負責人 · 帶有初學者友善標籤

尚無負責人帶有初學者友善標籤倉庫本月活躍提供貢獻指南

ggml-org / llama.cpp · #231 · 2023年3月17日 · C++ · 124,043 顆星

10 則留言9 個反應0 位負責人

ggml-org/llama.cpp

議題

每天在信箱收到新鮮 Easy issues。