warehouse_forklift_routing: `TIME_LIMIT = 60` kills inputs within the stated 30 s per test case

クローズ
#47 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 2 日以内に返信

まだ誰も着手していません。

評価

難易度
2/5
見積もり時間
1〜3時間
初心者へのやさしさ
35/100
issue の種類
バグ
明瞭さ
明確に書かれている
活発さ
活発
技術スタック
python
領域
testing, tooling

調査の方向性

Start with tools/judge_local.py and the README wording for the 50 inputs and per test case time limits. Reproduce the reported failure using a solver deadline above 60 seconds per input, then inspect how TIME_LIMIT and timeout scoring are applied. Done when the stated limit and judge behavior agree and the reproduction no longer yields 0 of 50 OK solely because of the 60 second cap; the issue mentions draft PR #38.

索引モデルが issue の本文から書いたものです。

説明

Task

warehouse_forklift_routing

Claim

The instruction gives "T=5 test cases per input" and "30 seconds per test case", but TIME_LIMIT = 60 kills an input at 60 s, and any timeout makes the total inf. This is Known issue 2. The README also calls the 50 inputs "test cases", so the limit has two readings.

Impact

A solver using more than 60 s per input gets no score: a real solver edited to a 125 s deadline gets 0 of 50 OK. We know of no real submission that does this: an Opus 5.5 run chose 20 s per input and noted the ambiguity.

Evidence and how to reproduce

Set a solver's own per-input deadline above 60 s and grade with tools/judge_local.py: valid: false, 0 of 50 OK.

Proposed fix

Draft PR: #38.

主要言語
Python
スター
474
フォーク
20
平均マージ
3日 6時間
マージ済み PR(30日)
3

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

ByteDance-Seed/EdgeBench のほかの issue

ByteDance-Seed/EdgeBench の issue をすべて見る

似ている issue

Python の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。