Optional deterministic CI regression check (record/replay)?
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 35/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Ferma
- Stack tecnologico
- github-actions, python
- Ambito
- ci-cd, testing-qa
Direzione di ricerca
Non viene indicato alcun entry point esistente, file di test o configurazione CI. Inizia individuando l’agent/example entrypoint del repository e gli attuali workflow di GitHub Actions, quindi determina dove potrebbe collegarsi una replay suite opzionale. Il lavoro sarà completo quando includerà i files proposti in evals/runledger/, baselines/runledger-demo.json e un workflow opzionale che fallisca in caso di replay mismatch senza live tool calls.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Hi! I maintain RunLedger (https://github.com/runledger/Runledger), a small CLI for deterministic CI regression checks for tool-using agents (record once, replay in CI).
Would you be open to a small, optional PR that adds:
evals/runledger/(suite + one case + schema + cassette)baselines/runledger-demo.json- an optional GitHub Actions workflow to run the CI check (manual or on PR, depending on what you prefer)
It's small and removable, and I'm happy to close it if you don't want it.
The goal is to catch agent/tool regressions in CI without live tool calls (record once, replay in CI; fail on mismatch).
If you're interested, what is the best existing agent/example entrypoint in this repo to wire the suite to?
- Lingua principale
- Python
- Stelle
- 52
- Fork
- 12
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Nessuna guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Lightning-AI/litAI
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
Lightning-AI/litAI#88 ·
-
Setting TemperatureForse già presa @namantiwari2002 l’ha presa 97 giorni fa. Apertaenhancement help wanted
Difficoltà 3/5 1-2 giorni Idoneità per principianti 48/100
Lightning-AI/litAI#75 · 2 commenti ·
Tutte le issue di Lightning-AI/litAI
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
task
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
danparshall/claude_researcher#87 ·
I maintainer di solito rispondono entro 1 giorno
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
datajoint/datajoint-python#1586 ·
I maintainer di solito rispondono entro 1 giorno
-
1D intercept of length 1 is accepted as `fix_params` in population GLM with more than 1 unitForse già presa @dhvani7014 l’ha presa oggi. Apertabug good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
flatironinstitute/nemos#642 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Broken links in the docsAperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 78/100
uniswap-python/uniswap-python#487 ·