Track benchmarks over time in CI

Aperta
  • Qualcosa non va?
#298 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 3 giorni

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
18/100
Tipo di issue
Funzionalità
Chiarezza
Da chiarire
Stato di attività
Attiva
Stack tecnologico
github-actions, python, rust
Ambito
ci-cd, performance

Direzione di ricerca

This is a design proposal, not a task yet. Start with the benchmark results table and CSV output in _bench.py, which the issue says already record step times and errors against JAX, and with the performance targets on #285. The first decision is which tool to adopt (pytest-benchmark, criterion.rs, github-action-benchmark, codspeed or bencher) and how much noise the thresholds must tolerate. Done would mean an agreed plan from a maintainer, then a first CI job that records one benchmark over time.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

enhancement ml

🌀 Claude: The ML demos' numbers are measured by hand and posted on #285, with the CPU and versions. Nothing records them over time, so a regression in xarray-sql, ddx, einfold or DataFusion shows up only when someone measures again.

Proposal: track benchmarks over time in CI, starting small:

  • pytest-benchmark for the Python benchmarks, including the ML demos at fixed sizes. Each step's time and its error against JAX are already in _bench.py's results table and CSV.
  • criterion.rs where the Rust code needs it.
  • github-action-benchmark to store the history and flag a regression on a PR.

Hosted runners vary from run to run, so the thresholds need to allow for that noise. Alternatives: codspeed.io, which counts instructions rather than measuring time, and bencher.dev. Both are free for open source today, but carry the risk of a SaaS changing its terms. asv is a reference for what a full history and dashboard could look like.

Raised in review of #269. The performance targets themselves are tracked on #285.

Lingua principale
Python
Stelle
142
Fork
19
Merge medio
3g 47m
PR unite (30g)
8

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di xqlsystems/xarray-sql

Tutte le issue di xqlsystems/xarray-sql

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.