Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

llama_get_kv_self debug symbols removed

Đang mở
#2,064 0 bình luận 1 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
3/5
Thời gian dự kiến
1-2 ngày
Mức phù hợp với người mới
45/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Đình trệ
Công nghệ
c, python
Lĩnh vực
devtools

Hướng nghiên cứu

Issue này liên quan đến việc thiếu biểu tượng gỡ lỗi llama_get_kv_self trong thư viện libllama.dylib trên macOS, khiến việc gỡ lỗi bằng DebugPy bị lỗi. Kiểm tra changelog API của llama.cpp được liên kết trong issue để xác nhận việc xóa biểu tượng này. Xem quy trình build của llama-cpp-python để biết thư viện native được biên dịch và liên kết như thế nào, đồng thời xác minh liệu binary macOS có cần được build lại với các biểu tượng đã cập nhật hay không. Việc kiểm thử bao gồm sử dụng trình gỡ lỗi để thực hiện từng bước qua mã sử dụng các binding của llama.cpp.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Prerequisites

Please answer the following questions for yourself before submitting an issue.

  • I am running the latest code. Development is very rapid so there are no tagged versions as of now.
  • I carefully followed the README.md.
  • I searched using keywords relevant to my issue to make sure that I am creating a new issue that is not already open (or closed).
  • I reviewed the Discussions, and have a new bug or useful enhancement to share.

Expected Behavior

Debugpy should not have issues debugging the application itself.

Current Behavior

In actual development run without debugger, no issues with the latest binary.

This behaviour only occurs when DebugPy is being used to step through the processes.

Environment and Context

  • MacOS Sequoia
  • Python 3.13
  • Llama-cpp @ b6370
  • Llama-cpp-python @ 3.16

Failure Information

Image

An attribute error occurs as the debug symbol was removed 2 weeks back (mid aug 2025), see libllama api changelog.

Reproduce

This is my .vscode/launch.json settings for DebugPy

{
    "version": "0.2.0",
    "configurations": [
        {
            "_comment": "This only runs on current file instance.",
            "type": "python",
            "request": "launch",
            "name": "Standalone File Debugger",
            "program": "${file}",
            "console": "integratedTerminal",
            "justMyCode": false,
        },
    ]
}

On MacOS, the libllama.dylib might need to be updated to reflect changes of the API.

Thanks for the developing this project, not a major issue unless the debugger is needed to step through the process.

Note: installing Llama.cpp binary @ commit: b6188 allows debugging as symbols still exists (did not test other commits).

Ngôn ngữ chính
Python
Star
10.6k
Fork
1.5k
Merge trung bình
3 giờ 57 phút
Pull request đã merge (30 ngày)
4

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của abetlen/llama-cpp-python

Tất cả issue của abetlen/llama-cpp-python

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.