Hacktoberfest 2026: le issue che i maintainer hanno segnato per ottobre, aperte e adatte ai principianti. Sfoglia le issue Hacktoberfest

llama_get_kv_self debug symbols removed

Aperta
  • Qualcosa non va?
#2,064 0 commenti 1 reazione 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
3/5
Tempo stimato
1-2 giorni
Idoneità per principianti
45/100
Tipo di issue
Bug
Chiarezza
Specificata chiaramente
Stato di attività
Ferma
Stack tecnologico
c, python
Ambito
devtools

Direzione di ricerca

Il problema riguarda l'assenza del simbolo di debug llama_get_kv_self nella libreria libllama.dylib su macOS, che impedisce il debug con DebugPy. Controlla il changelog dell'API di llama.cpp collegato nel problema per confermare la rimozione del simbolo. Esamina il processo di build di llama-cpp-python per vedere come viene compilata e collegata la libreria nativa, e verifica se il binario macOS deve essere ricompilato con i simboli aggiornati. I test prevedono l'uso di un debugger per eseguire passo passo il codice che utilizza i bindings di llama.cpp.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Prerequisites

Please answer the following questions for yourself before submitting an issue.

  • I am running the latest code. Development is very rapid so there are no tagged versions as of now.
  • I carefully followed the README.md.
  • I searched using keywords relevant to my issue to make sure that I am creating a new issue that is not already open (or closed).
  • I reviewed the Discussions, and have a new bug or useful enhancement to share.

Expected Behavior

Debugpy should not have issues debugging the application itself.

Current Behavior

In actual development run without debugger, no issues with the latest binary.

This behaviour only occurs when DebugPy is being used to step through the processes.

Environment and Context

  • MacOS Sequoia
  • Python 3.13
  • Llama-cpp @ b6370
  • Llama-cpp-python @ 3.16

Failure Information

Image

An attribute error occurs as the debug symbol was removed 2 weeks back (mid aug 2025), see libllama api changelog.

Reproduce

This is my .vscode/launch.json settings for DebugPy

{
    "version": "0.2.0",
    "configurations": [
        {
            "_comment": "This only runs on current file instance.",
            "type": "python",
            "request": "launch",
            "name": "Standalone File Debugger",
            "program": "${file}",
            "console": "integratedTerminal",
            "justMyCode": false,
        },
    ]
}

On MacOS, the libllama.dylib might need to be updated to reflect changes of the API.

Thanks for the developing this project, not a major issue unless the debugger is needed to step through the process.

Note: installing Llama.cpp binary @ commit: b6188 allows debugging as symbols still exists (did not test other commits).

Lingua principale
Python
Stelle
10.6k
Fork
1.5k
Merge medio
3h 57m
PR unite (30g)
4

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di abetlen/llama-cpp-python

Tutte le issue di abetlen/llama-cpp-python

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.