warehouse_forklift_routing: `TIME_LIMIT = 60` kills inputs within the stated 30 s per test case

Đã đóng
#47 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 2 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
2/5
Thời gian dự kiến
1-3 giờ
Mức phù hợp với người mới
35/100
Loại issue
Lỗi
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
python
Lĩnh vực
testing, tooling

Hướng nghiên cứu

Start with tools/judge_local.py and the README wording for the 50 inputs and per test case time limits. Reproduce the reported failure using a solver deadline above 60 seconds per input, then inspect how TIME_LIMIT and timeout scoring are applied. Done when the stated limit and judge behavior agree and the reproduction no longer yields 0 of 50 OK solely because of the 60 second cap; the issue mentions draft PR #38.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Task

warehouse_forklift_routing

Claim

The instruction gives "T=5 test cases per input" and "30 seconds per test case", but TIME_LIMIT = 60 kills an input at 60 s, and any timeout makes the total inf. This is Known issue 2. The README also calls the 50 inputs "test cases", so the limit has two readings.

Impact

A solver using more than 60 s per input gets no score: a real solver edited to a 125 s deadline gets 0 of 50 OK. We know of no real submission that does this: an Opus 5.5 run chose 20 s per input and noted the ambiguity.

Evidence and how to reproduce

Set a solver's own per-input deadline above 60 s and grade with tools/judge_local.py: valid: false, 0 of 50 OK.

Proposed fix

Draft PR: #38.

Ngôn ngữ chính
Python
Star
474
Fork
20
Merge trung bình
3 ngày 6 giờ
Pull request đã merge (30 ngày)
3

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của ByteDance-Seed/EdgeBench

Tất cả issue của ByteDance-Seed/EdgeBench

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.