warehouse_forklift_routing: `TIME_LIMIT = 60` kills inputs within the stated 30 s per test case

Chiusa
#47 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 2 giorni

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
2/5
Tempo stimato
1-3 ore
Idoneità per principianti
35/100
Tipo di issue
Bug
Chiarezza
Specificata chiaramente
Stato di attività
Attiva
Stack tecnologico
python
Ambito
testing, tooling

Direzione di ricerca

Start with tools/judge_local.py and the README wording for the 50 inputs and per test case time limits. Reproduce the reported failure using a solver deadline above 60 seconds per input, then inspect how TIME_LIMIT and timeout scoring are applied. Done when the stated limit and judge behavior agree and the reproduction no longer yields 0 of 50 OK solely because of the 60 second cap; the issue mentions draft PR #38.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Task

warehouse_forklift_routing

Claim

The instruction gives "T=5 test cases per input" and "30 seconds per test case", but TIME_LIMIT = 60 kills an input at 60 s, and any timeout makes the total inf. This is Known issue 2. The README also calls the 50 inputs "test cases", so the limit has two readings.

Impact

A solver using more than 60 s per input gets no score: a real solver edited to a 125 s deadline gets 0 of 50 OK. We know of no real submission that does this: an Opus 5.5 run chose 20 s per input and noted the ambiguity.

Evidence and how to reproduce

Set a solver's own per-input deadline above 60 s and grade with tools/judge_local.py: valid: false, 0 of 50 OK.

Proposed fix

Draft PR: #38.

Lingua principale
Python
Stelle
474
Fork
20
Merge medio
3g 6h
PR unite (30g)
3

Preparare l'ambiente

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di ByteDance-Seed/EdgeBench

Tutte le issue di ByteDance-Seed/EdgeBench

Issue simili

Altre issue su Python

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.