Repository Issues

ggml-org/llama.cpp

LLM inference in C/C++

Auf GitHub ansehen
Stars
 (124.043 Sterne)
Forks
 (21.737 Forks)
Indexierte Issues
 (58 indexierte Issues)
offene Einsteiger-Issues
 (38 offene Einsteiger-Issues)
Zuletzt indexiert
14.08.2026
Letzter GitHub Push
15.08.2026
Lizenz
MIT License
Contributing Guide
Contributing Guide
Code of Conduct
Kein Code of Conduct
Hauptsprache
C++
PR-Merge-Metriken
 (Durchschn. Merge 6T 8h) (389 zusammengeführte PRs in 30 T)
Einsteiger-Labels
good first issuehelp wanted

Issues

58 indexierte Issues

Offen
Support for Sparse MoE models like Camelidae and Sparsetral
enhancementgood first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #5365 · 06.02.2024 · C++ · 124.043 Sterne

6 Kommentare35 Reaktionen0 zugewiesene Personen
Offen
MiniCPM 2b model support?
enhancementgood first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #5276 · 02.02.2024 · C++ · 124.043 Sterne

26 Kommentare8 Reaktionen0 zugewiesene Personen
Geschlossen
llama : refactor the llm.build_xxx functions
good first issuerefactoringroadmap
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #5239 · 31.01.2024 · C++ · 124.043 Sterne

3 Kommentare3 Reaktionen0 zugewiesene Personen
Geschlossen
in situ auto-Frankenmerges
enhancementgood first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #4718 · 31.12.2023 · C++ · 124.043 Sterne

11 Kommentare2 Reaktionen0 zugewiesene Personen
Offen
llama : integer type consistency in `llama.h`
enhancementgood first issuerefactoringroadmap
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #4574 · 21.12.2023 · C++ · 124.043 Sterne

4 Kommentare4 Reaktionen0 zugewiesene Personen
Offen
GGUF endianness cannot be determined from GGUF itself
breaking changeenhancementgood first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #3957 · 05.11.2023 · C++ · 124.043 Sterne

20 Kommentare4 Reaktionen0 zugewiesene Personen
Offen
ci : fix Docker workflow
buildhelp wanted
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #3628 · 15.10.2023 · C++ · 124.043 Sterne

16 Kommentare0 Reaktionen0 zugewiesene Personen
Geschlossen
convert.py incorrectly detects LLaMAv1 65B as a LLaMAv2 model
good first issue
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #3326 · 24.09.2023 · C++ · 124.043 Sterne

3 Kommentare1 Reaktion0 zugewiesene Personen
Offen
Request: Nougat OCR Integration
help wantedmodel
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #3294 · 21.09.2023 · C++ · 124.043 Sterne

8 Kommentare13 Reaktionen0 zugewiesene Personen
Geschlossen
llama : combined beam search + grammar sampling strategy
generation qualitygood first issueresearch 🔬roadmap
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #2923 · 31.08.2023 · C++ · 124.043 Sterne

14 Kommentare20 Reaktionen0 zugewiesene Personen
Offen
Using MPI w/ 65b model but each node uses the full RAM.
help wanted
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #2209 · 13.07.2023 · C++ · 124.043 Sterne

3 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
mpi : attempt inference of 65B LLaMA on a cluster of Raspberry Pis
hardwarehelp wantedresearch 🔬
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #2164 · 10.07.2023 · C++ · 124.043 Sterne

54 Kommentare29 Reaktionen0 zugewiesene Personen
Offen
[IDEA] Global token enhancement/depression
help wantedresearch 🔬
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #1865 · 15.06.2023 · C++ · 124.043 Sterne

1 Kommentar0 Reaktionen0 zugewiesene Personen
Geschlossen
feature request - disabling tokenizer in conversion / inference
enhancementgood first issuehelp wanted
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #1765 · 08.06.2023 · C++ · 124.043 Sterne

7 Kommentare1 Reaktion0 zugewiesene Personen
Offen
Support CoreML like whisper.cpp?
help wantedmacosperformance
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #1714 · 06.06.2023 · C++ · 124.043 Sterne

11 Kommentare17 Reaktionen0 zugewiesene Personen
Offen
Test replit-code-v1-3b model
help wantedmodel
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #1299 · 03.05.2023 · C++ · 124.043 Sterne

7 Kommentare0 Reaktionen0 zugewiesene Personen
Offen
Study how LM Evaluation Harness works and try to implement it
enhancementgeneration qualityhelp wantedhigh priorityresearch 🔬
Warum empfohlenNoch niemand zugewiesen · Einsteigerfreundliches Label vorhanden
Noch niemand zugewiesenEinsteigerfreundliches Label vorhandenRepository diesen Monat aktivBeitragsleitfaden verfügbar

ggml-org / llama.cpp · #231 · 17.03.2023 · C++ · 124.043 Sterne

10 Kommentare9 Reaktionen0 zugewiesene Personen