llama_get_kv_self debug symbols removed
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 3/5
- Thời gian dự kiến
- 1-2 ngày
- Mức phù hợp với người mới
- 45/100
Hướng nghiên cứu
Issue này liên quan đến việc thiếu biểu tượng gỡ lỗi llama_get_kv_self trong thư viện libllama.dylib trên macOS, khiến việc gỡ lỗi bằng DebugPy bị lỗi. Kiểm tra changelog API của llama.cpp được liên kết trong issue để xác nhận việc xóa biểu tượng này. Xem quy trình build của llama-cpp-python để biết thư viện native được biên dịch và liên kết như thế nào, đồng thời xác minh liệu binary macOS có cần được build lại với các biểu tượng đã cập nhật hay không. Việc kiểm thử bao gồm sử dụng trình gỡ lỗi để thực hiện từng bước qua mã sử dụng các binding của llama.cpp.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Prerequisites
Please answer the following questions for yourself before submitting an issue.
- I am running the latest code. Development is very rapid so there are no tagged versions as of now.
- I carefully followed the README.md.
- I searched using keywords relevant to my issue to make sure that I am creating a new issue that is not already open (or closed).
- I reviewed the Discussions, and have a new bug or useful enhancement to share.
Expected Behavior
Debugpy should not have issues debugging the application itself.
Current Behavior
In actual development run without debugger, no issues with the latest binary.
This behaviour only occurs when DebugPy is being used to step through the processes.
Environment and Context
- MacOS Sequoia
- Python 3.13
- Llama-cpp @ b6370
- Llama-cpp-python @ 3.16
Failure Information
An attribute error occurs as the debug symbol was removed 2 weeks back (mid aug 2025), see libllama api changelog.
Reproduce
This is my .vscode/launch.json settings for DebugPy
{
"version": "0.2.0",
"configurations": [
{
"_comment": "This only runs on current file instance.",
"type": "python",
"request": "launch",
"name": "Standalone File Debugger",
"program": "${file}",
"console": "integratedTerminal",
"justMyCode": false,
},
]
}
On MacOS, the libllama.dylib might need to be updated to reflect changes of the API.
Thanks for the developing this project, not a major issue unless the debugger is needed to step through the process.
Note: installing Llama.cpp binary @ commit: b6188 allows debugging as symbols still exists (did not test other commits).
- Ngôn ngữ chính
- Python
- Star
- 10.6k
- Fork
- 1.5k
- Merge trung bình
- 3 giờ 57 phút
- Pull request đã merge (30 ngày)
- 4
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Không có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của abetlen/llama-cpp-python
-
Seven llama_sampler_init_* bindings admit keyword arguments that the ctypes function object silently dropsCó thể đã có người làm @Belal0066 đã nhận 15 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
abetlen/llama-cpp-python#2371 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
uv add llama-cpp-python wheels fails for versions above 0.3.30Có thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2352 · 1 bình luận · 2 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Docs: consolidate build-from-source and GPU backend guideCó thể đã có người làm Có pull request liên kết đang mở hoặc đã được merge. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
abetlen/llama-cpp-python#2314 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Llama.embed() calls LlamaBatch.add_sequence with old 3-arg signature; missing logits_arrayCó thể làm lại được @lxcxjxhx đã nhận 92 ngày trước và không có pull request nào đang mở. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2211 · 2 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Llama() silently accepts and discards `embedding` kwarg; .embed() then raises confusinglyCó thể đã có người làm @Anai-Guo đã nhận 33 ngày trước. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
abetlen/llama-cpp-python#2210 ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của abetlen/llama-cpp-python
Issue tương tự
-
Link Checker ReportĐang mởautomated issue report
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 85/100
RapidAI/RapidOCRDocs#119 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 85/100
btclib-org/btclib-node#1833 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
IRIS reader: no-data velocity bins (DB_VEL, DB_VELC) returned as 0.0 m/s instead of NaNCó thể đã có người làm @syedhamidali đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 80/100
elodin-sys/elodin#890 ·
Maintainer thường phản hồi trong vòng 1 ngày