Port HybridGym benchmarks to Harbor
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 48/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Tranquilla
- Stack tecnologico
- python
- Ambito
- testing-qa
Direzione di ricerca
Inizia individuando il registry di Harbor e gli entry point di adapter/task per le integrazioni dei benchmark, quindi esamina gli attuali workflow dei benchmark di OpenHands per le quattro varianti di HybridGym. Aggiungi la copertura per la localizzazione delle funzioni, la generazione delle funzioni, la ricerca delle dipendenze e la localizzazione delle issue, preservando i prompt, la configurazione dell’ambiente e la semantica dell’evaluator di ciascuna variante. Il lavoro è completato quando tutte e quattro vengono eseguite tramite Harbor, vengono registrati i risultati di parità e i wrapper di OpenHands possono delegare l’esecuzione a Harbor.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Context
The HybridGym benchmarks (hybridgym_funclocalize, hybridgym_funcgen, hybridgym_depsearch, and hybridgym_issuelocalize) do not appear to have corresponding Harbor registry datasets/adapters yet. These should be ported as a benchmark family while keeping per-task scoring behavior intact.
Proposed scope
- Create Harbor adapters/tasks for each HybridGym variant.
- Preserve prompts, environment setup, and evaluator semantics for each variant.
- Validate parity separately for function localization, function generation, dependency search, and issue localization.
- Document any shared adapter code and per-variant differences.
Acceptance criteria
- All four HybridGym variants can be run through Harbor.
- Per-variant parity results are recorded against the current OpenHands benchmark workflows.
- OpenHands wrappers can delegate HybridGym execution to Harbor.
- Lingua principale
- Python
- Stelle
- 134
- Fork
- 97
- Merge medio
- 8g 23h
- PR unite (30g)
- 2
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di OpenHands/benchmarks
-
SWE-bench Pro and ProgramBench reports leave out instances that errored during inferenceForse di nuovo libera @jahanvipandey22 l’ha presa 8 giorni fa e non c’è nessuna pull request aperta. Aperta
Difficoltà 3/5 Mezza giornata Idoneità per principianti 62/100
OpenHands/benchmarks#791 · 1 commento ·
-
create_docker_workspace never reuses locally-built images (tag mismatch with DockerDevWorkspace)Aperta
Difficoltà 3/5 1-2 giorni Idoneità per principianti 68/100
OpenHands/benchmarks#779 ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 35/100
OpenHands/benchmarks#776 ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 28/100
OpenHands/benchmarks#764 · 16 commenti ·
-
Difficoltà 5/5 Più di una settimana Idoneità per principianti 38/100
OpenHands/benchmarks#744 ·
Tutte le issue di OpenHands/benchmarks
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
trycua/hermes-cua-spaces#17 ·
-
area:codegen backend:hip bug direction:output good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
I maintainer di solito rispondono entro 1 giorno
-
status:waiting-for-triage type:bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 67/100
microsoftgraph/msgraph-sdk-python#1628 ·
I maintainer di solito rispondono entro 1 giorno
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 77/100
nautechsystems/nautilus_trader#5718 ·
I maintainer di solito rispondono entro 1 giorno
-
[Bug]: reme CLI crashes when the running server used a relative config pathForse già presa @nurlanmnn l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
agentscope-ai/ReMe#770 ·
I maintainer di solito rispondono entro 1 giorno