llama_get_kv_self debug symbols removed
Maintainer antworten meist innerhalb von 1 Tag
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 3/5
- Geschätzter Aufwand
- 1-2 Tage
- Anfängerfreundlichkeit
- 45/100
Rechercherichtung
Bei diesem Issue geht es um ein fehlendes Debug-Symbol llama_get_kv_self in der Bibliothek libllama.dylib auf macOS, wodurch das Debugging mit DebugPy nicht funktioniert. Prüfe den im Issue verlinkten llama.cpp API-Changelog, um die Entfernung des Symbols zu bestätigen. Sieh dir den Build-Prozess für llama-cpp-python an, um zu sehen, wie die native Bibliothek kompiliert und gelinkt wird, und überprüfe, ob das macOS-Binary mit aktualisierten Symbolen neu erstellt werden muss. Zum Testen wird ein Debugger verwendet, um schrittweise durch Code zu gehen, der die llama.cpp-Bindings verwendet.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
Prerequisites
Please answer the following questions for yourself before submitting an issue.
- I am running the latest code. Development is very rapid so there are no tagged versions as of now.
- I carefully followed the README.md.
- I searched using keywords relevant to my issue to make sure that I am creating a new issue that is not already open (or closed).
- I reviewed the Discussions, and have a new bug or useful enhancement to share.
Expected Behavior
Debugpy should not have issues debugging the application itself.
Current Behavior
In actual development run without debugger, no issues with the latest binary.
This behaviour only occurs when DebugPy is being used to step through the processes.
Environment and Context
- MacOS Sequoia
- Python 3.13
- Llama-cpp @ b6370
- Llama-cpp-python @ 3.16
Failure Information
An attribute error occurs as the debug symbol was removed 2 weeks back (mid aug 2025), see libllama api changelog.
Reproduce
This is my .vscode/launch.json settings for DebugPy
{
"version": "0.2.0",
"configurations": [
{
"_comment": "This only runs on current file instance.",
"type": "python",
"request": "launch",
"name": "Standalone File Debugger",
"program": "${file}",
"console": "integratedTerminal",
"justMyCode": false,
},
]
}
On MacOS, the libllama.dylib might need to be updated to reflect changes of the API.
Thanks for the developing this project, not a major issue unless the debugger is needed to step through the process.
Note: installing Llama.cpp binary @ commit: b6188 allows debugging as symbols still exists (did not test other commits).
- Vorherrschende Sprache
- Python
- Sterne
- 10.6k
- Forks
- 1.5k
- Ø Merge
- 3 Std. 57 Min.
- Gemergte PRs (30 T.)
- 4
Entwicklungsumgebung
- Kein Dockerfile und keine Docker-Compose-Datei
- Keine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus abetlen/llama-cpp-python
-
Seven llama_sampler_init_* bindings admit keyword arguments that the ctypes function object silently dropsEvtl. vergeben @Belal0066 hat das vor 14 Tagen übernommen. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 88/100
abetlen/llama-cpp-python#2371 ·
Maintainer antworten meist innerhalb von 1 Tag
-
uv add llama-cpp-python wheels fails for versions above 0.3.30Evtl. vergeben Ein verknüpfter Pull Request ist offen oder bereits gemergt. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 65/100
abetlen/llama-cpp-python#2352 · 1 Kommentar · 2 Reaktionen ·
Maintainer antworten meist innerhalb von 1 Tag
-
Docs: consolidate build-from-source and GPU backend guideEvtl. vergeben Ein verknüpfter Pull Request ist offen oder bereits gemergt. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 75/100
abetlen/llama-cpp-python#2314 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 65/100
abetlen/llama-cpp-python#2211 · 2 Kommentare ·
Maintainer antworten meist innerhalb von 1 Tag
-
Llama() silently accepts and discards `embedding` kwarg; .embed() then raises confusinglyEvtl. vergeben @Anai-Guo hat das vor 32 Tagen übernommen. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 65/100
abetlen/llama-cpp-python#2210 ·
Maintainer antworten meist innerhalb von 1 Tag
Alle Issues in abetlen/llama-cpp-python
Ähnliche Issues
-
defect from-review v0.9.2
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 86/100
khuisman/mcp-gee-sweet#926 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 Unter einer Stunde Anfängerfreundlichkeit 84/100
EtanHey/brainlayer#1164 ·
Maintainer antworten meist innerhalb von 1 Tag
-
bug security
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 88/100
yunaremaia/vibeguard#141 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100
PrismorSec/prismor#599 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
iii-hq/iii#2278 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag