Benchmark and improve tool-search ranking with indexed BM25
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 45/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- go
- Lĩnh vực
- backend-api-design, search
Hướng nghiên cứu
Bắt đầu bằng cách xác định phần triển khai tool-search hiện có của server và xem xét benchmark của prototype cùng các unit test của nó để lập chỉ mục tên công cụ, mô tả, tên tham số và mô tả tham số. Xác nhận phạm vi ưu tiên với các maintainer, sau đó đo chiến lược xếp hạng đã chọn trên benchmark gồm 49 truy vấn và 115 công cụ, đồng thời báo cáo chất lượng truy hồi và độ trễ mà không có hồi quy.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Describe the feature or problem you’d like to solve
The GitHub MCP Server already exposes tool discovery/search functionality, but
there is no repeatable benchmark for measuring how reliably natural-language
queries retrieve the intended MCP tool.
As the tool inventory grows, a benchmark would make ranking changes measurable
and help prevent retrieval regressions.
This is separate from host-side deferred tool loading discussed in #1680. The
proposal only concerns ranking inside the server's existing tool-search
implementation.
Proposed solution
Add a hand-labelled benchmark covering natural-language intents across the
server's major toolsets, then compare the current heuristic with an indexed
BM25 implementation.
A prototype benchmark contains 49 queries over 115 unique tools and produced:
| Strategy | Recall@1 | Recall@3 | MRR@10 | Query latency |
|---|---|---|---|---|
| Current heuristic | 71.4% | 81.6% | 0.792 | ~2.25 ms |
| Indexed BM25 | 71.4% | 87.8% | 0.802 | ~34 µs |
| Hybrid RRF | 73.5% | 87.8% | 0.823 | ~2.38 ms |
Indexed BM25 improved Recall@3 by 6.1 percentage points and was approximately
66x faster per query. The hybrid produced the strongest ranking quality.
Before submitting a PR, I would appreciate maintainer guidance on the preferred
scope:
- Benchmark harness only
- Benchmark plus indexed BM25
- Benchmark plus a hybrid ranking experiment
Example prompts or workflows
- "Find open issues assigned to me across repositories"
- "Read the files, reviews, and diff for a pull request"
- "Download logs for a failed workflow job"
- "Find exposed secrets detected in a repository"
- "Add an issue to a GitHub project"
Additional context
The benchmark uses the complete current tool inventory and validates that every
labelled relevant tool exists. The prototype includes unit tests for indexing
tool names, descriptions, parameter names, and parameter descriptions.
- Ngôn ngữ chính
- Go
- Star
- 33.1k
- Fork
- 5k
- Merge trung bình
- 2 ngày 15 giờ
- Pull request đã merge (30 ngày)
- 27
Hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của github/github-mcp-server
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
github/github-mcp-server#3235 ·
-
enhancement
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
github/github-mcp-server#3042 · 2 bình luận ·
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
github/github-mcp-server#3032 · 1 reaction ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 74/100
github/github-mcp-server#2803 · 1 bình luận ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
github/github-mcp-server#2740 ·
Tất cả issue của github/github-mcp-server
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 84/100
-
enhancement needs triage
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
-
kind/cleanup
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
kubernetes-sigs/kueue#15947 ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
sympozium-ai/sympozium#627 ·