Report whether a predict used the cached context or restored it (cache_outcome)
Les mainteneurs répondent en général sous 1 jour
Évaluation
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Accessibilité débutants
- 35/100
Piste de recherche
Read src/tabctx/serve/service.py and src/tabctx/engine.py to trace how restore counts reach the predict response, then check src/tabctx/client.py for the result model. Use tests/unit/test_standalone_service.py for the hit case and tests/unit/test_spill.py to find how to trigger a spill. Done when both outcomes are reported correctly and the unit suite passes.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
A predict response says how long it took (latency_ms, timings_ms) but not whether the cached context was used as is, restored from the disk tier, or missing. Users can't see evictions, and slow restores look like slow predicts. (Item 3 of #46.)
What to do
- Add
cache_outcome: "hit" | "restored"toTabctxPredictResponseinsrc/tabctx/serve/service.py. - The engine already knows:
TabctxEngine.predictcountsrestoreswithtiming.count("restores")(src/tabctx/engine.py). Carry that through to the response; for coalesced requests the batch's outcome applies to all members. - Show it in
PredictResultinsrc/tabctx/client.py(with a default, at the end). - Tests:
tests/unit/test_standalone_service.py(a hit), and a spill test that restores (seetests/unit/test_spill.pyfor how to force a spill).
Done when
- A predict right after a fit reports
hit; one after the context was spilled reportsrestored. uv run pytest tests/unit -n autopasses.
- Langage dominant
- Python
- Étoiles
- 1
- Forks
- 3
- Merge moyen
- 6 h 16 min
- PR mergées (30 j)
- 71
Préparer son environnement
- Fournit un Dockerfile ou un fichier Docker Compose
- Propose un modèle de pull request
- Lire le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de VectorInstitute/tabctx
-
tabctx-mcp: prediction intervals in the predict tool's outputPeut-être pris @knirosha007 l’a pris il y a 5 jours. Ouvertearea/api enhancement good first issue
Difficulté 2/5 1-3 heures Accessibilité débutants 88/100
VectorInstitute/tabctx#111 · 2 commentaires ·
Les mainteneurs répondent en général sous 1 jour
-
A Colab quickstart notebookOuvertedocumentation good first issue help wanted
Difficulté 3/5 1-2 jours Accessibilité débutants 76/100
VectorInstitute/tabctx#113 ·
Les mainteneurs répondent en général sous 1 jour
-
area/api enhancement P3 roadmap
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 25/100
VectorInstitute/tabctx#106 ·
Les mainteneurs répondent en général sous 1 jour
-
area/latency enhancement help wanted P2 roadmap
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 35/100
VectorInstitute/tabctx#104 ·
Les mainteneurs répondent en général sous 1 jour
-
area/api area/memory enhancement P1 roadmap
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 35/100
VectorInstitute/tabctx#103 ·
Les mainteneurs répondent en général sous 1 jour
Toutes les issues de VectorInstitute/tabctx
Issues similaires
-
Difficulté 1/5 Moins d'une heure Accessibilité débutants 75/100
SACGF/variantgrid#2791 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 66/100
Les mainteneurs répondent en général sous 1 jour
-
bot-triaged oncall: cpu inductor
Difficulté 2/5 1-3 heures Accessibilité débutants 73/100
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 82/100
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
kubescape/cel-admission-library#141 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour