llama_get_kv_self debug symbols removed
Les mainteneurs répondent en général sous 1 jour
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Accessibilité débutants
- 45/100
Piste de recherche
L’issue concerne l’absence du symbole de débogage llama_get_kv_self dans la bibliothèque libllama.dylib sur macOS, ce qui empêche le débogage avec DebugPy. Consultez le journal des modifications de l’API de llama.cpp lié dans l’issue afin de confirmer la suppression du symbole. Examinez le processus de build de llama-cpp-python pour voir comment la bibliothèque native est compilée et liée, et vérifiez si le binaire macOS doit être recompilé avec les symboles mis à jour. Les tests consistent à utiliser un débogueur pour avancer pas à pas dans du code qui utilise les bindings de llama.cpp.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
Prerequisites
Please answer the following questions for yourself before submitting an issue.
- I am running the latest code. Development is very rapid so there are no tagged versions as of now.
- I carefully followed the README.md.
- I searched using keywords relevant to my issue to make sure that I am creating a new issue that is not already open (or closed).
- I reviewed the Discussions, and have a new bug or useful enhancement to share.
Expected Behavior
Debugpy should not have issues debugging the application itself.
Current Behavior
In actual development run without debugger, no issues with the latest binary.
This behaviour only occurs when DebugPy is being used to step through the processes.
Environment and Context
- MacOS Sequoia
- Python 3.13
- Llama-cpp @ b6370
- Llama-cpp-python @ 3.16
Failure Information
An attribute error occurs as the debug symbol was removed 2 weeks back (mid aug 2025), see libllama api changelog.
Reproduce
This is my .vscode/launch.json settings for DebugPy
{
"version": "0.2.0",
"configurations": [
{
"_comment": "This only runs on current file instance.",
"type": "python",
"request": "launch",
"name": "Standalone File Debugger",
"program": "${file}",
"console": "integratedTerminal",
"justMyCode": false,
},
]
}
On MacOS, the libllama.dylib might need to be updated to reflect changes of the API.
Thanks for the developing this project, not a major issue unless the debugger is needed to step through the process.
Note: installing Llama.cpp binary @ commit: b6188 allows debugging as symbols still exists (did not test other commits).
- Langage dominant
- Python
- Étoiles
- 10.6k
- Forks
- 1.5k
- Merge moyen
- 3 h 57 min
- PR mergées (30 j)
- 4
Préparer son environnement
- Aucun Dockerfile ni fichier Docker Compose
- Aucun modèle de pull request
- Lire le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de abetlen/llama-cpp-python
-
Seven llama_sampler_init_* bindings admit keyword arguments that the ctypes function object silently dropsPeut-être pris @Belal0066 l’a pris il y a 19 jours. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 88/100
abetlen/llama-cpp-python#2371 ·
Les mainteneurs répondent en général sous 1 jour
-
uv add llama-cpp-python wheels fails for versions above 0.3.30Peut-être pris Une pull request liée à cette issue est ouverte ou déjà fusionnée. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
abetlen/llama-cpp-python#2352 · 1 commentaire · 2 réactions ·
Les mainteneurs répondent en général sous 1 jour
-
Docs: consolidate build-from-source and GPU backend guidePeut-être pris Une pull request liée à cette issue est ouverte ou déjà fusionnée. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 75/100
abetlen/llama-cpp-python#2314 ·
Les mainteneurs répondent en général sous 1 jour
-
Llama.embed() calls LlamaBatch.add_sequence with old 3-arg signature; missing logits_arrayPeut-être à nouveau libre @lxcxjxhx l’a pris il y a 96 jours, et aucune pull request n’est ouverte. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
abetlen/llama-cpp-python#2211 · 2 commentaires ·
Les mainteneurs répondent en général sous 1 jour
-
Llama() silently accepts and discards `embedding` kwarg; .embed() then raises confusinglyPeut-être pris @Anai-Guo l’a pris il y a 36 jours. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
abetlen/llama-cpp-python#2210 ·
Les mainteneurs répondent en général sous 1 jour
Toutes les issues de abetlen/llama-cpp-python
Issues similaires
-
Claiming namespace `jft63`Ouvertenamespace operations
Difficulté 1/5 Moins d'une heure Accessibilité débutants 72/100
EclipseFdn/open-vsx.org#14043 ·
Les mainteneurs répondent en général sous 1 jour
-
netbox status: needs triage type: bug
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
netbox-community/netbox#23376 ·
Les mainteneurs répondent en général sous 1 jour
-
feedback simulation workshop
Difficulté 2/5 1-3 heures Accessibilité débutants 73/100
githubnext/gh-aw-workshop#4455 ·
Les mainteneurs répondent en général sous 1 jour
-
Triage 🩺
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
Les mainteneurs répondent en général sous 1 jour
-
[BUG] Container scenario crashes without expected_recovery_time, kube DNS example uses retry_waitOuverteneeds-triage
Difficulté 2/5 1-3 heures Accessibilité débutants 77/100
krkn-chaos/krkn#1627 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour