Benchmark and improve tool-search ranking with indexed BM25

Ouverte
#2,996 2 commentaires 0 réactions 0 personnes assignées Voir sur GitHub

Personne n'a encore pris cette issue.

Évaluation

Difficulté
5/5
Temps estimé
Plus d'une semaine
Accessibilité débutants
45/100
Type d'issue
Fonctionnalité
Clarté
Plutôt claire
Activité
Active
Stack technique
go
Domaine
backend-api-design, search

Piste de recherche

Commencez par localiser l’implémentation existante de tool-search du serveur et examiner le benchmark du prototype ainsi que ses tests unitaires pour l’indexation des noms d’outils, des descriptions, des noms de paramètres et des descriptions de paramètres. Confirmez le périmètre privilégié avec les maintainers, puis mesurez la stratégie de classement sélectionnée par rapport au benchmark de 49 requêtes et 115 outils et rendez compte de la qualité de récupération et de la latence sans régressions.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Description

enhancement request ai review
Describe the feature or problem you’d like to solve

The GitHub MCP Server already exposes tool discovery/search functionality, but
there is no repeatable benchmark for measuring how reliably natural-language
queries retrieve the intended MCP tool.

As the tool inventory grows, a benchmark would make ranking changes measurable
and help prevent retrieval regressions.

This is separate from host-side deferred tool loading discussed in #1680. The
proposal only concerns ranking inside the server's existing tool-search
implementation.

Proposed solution

Add a hand-labelled benchmark covering natural-language intents across the
server's major toolsets, then compare the current heuristic with an indexed
BM25 implementation.

A prototype benchmark contains 49 queries over 115 unique tools and produced:

Strategy Recall@1 Recall@3 MRR@10 Query latency
Current heuristic 71.4% 81.6% 0.792 ~2.25 ms
Indexed BM25 71.4% 87.8% 0.802 ~34 µs
Hybrid RRF 73.5% 87.8% 0.823 ~2.38 ms

Indexed BM25 improved Recall@3 by 6.1 percentage points and was approximately
66x faster per query. The hybrid produced the strongest ranking quality.

Before submitting a PR, I would appreciate maintainer guidance on the preferred
scope:

  1. Benchmark harness only
  2. Benchmark plus indexed BM25
  3. Benchmark plus a hybrid ranking experiment
Example prompts or workflows
  • "Find open issues assigned to me across repositories"
  • "Read the files, reviews, and diff for a pull request"
  • "Download logs for a failed workflow job"
  • "Find exposed secrets detected in a repository"
  • "Add an issue to a GitHub project"
Additional context

The benchmark uses the complete current tool inventory and validates that every
labelled relevant tool exists. The prototype includes unit tests for indexing
tool names, descriptions, parameter names, and parameter descriptions.

Langage dominant
Go
Étoiles
33.1k
Forks
5k
Merge moyen
2 j 15 h
PR mergées (30 j)
27

Guide de contribution

Ouvrir le guide de contribution

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Autres issues de github/github-mcp-server

Toutes les issues de github/github-mcp-server

Issues similaires

Plus d'issues Go

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.