Multi-task not working with Force Last submission rule
维护者通常 5 天内回复
评估
调研方向
首先使用 Force Last 和 Force Last Multiple 规则复现多任务场景,然后跟踪该规则应用于父提交和子提交的位置。完成标准是 leaderboard 上仅显示父提交及子提交的分数,并且 My Submissions 正确标记 leaderboard 和 failed 状态。
由索引模型根据 Issue 内容生成。
描述
When you have more than one task and leaderboard rule is Force Last or Force Last Multiple:
- You see
N/abecause one of the child submission is on the leaderboard and the other one showsN/a. - Also, on "My Submissions" tab, no submission is marked as "on the leaderboard".
Failedsubmissions are marked asFinished.
We should NOT show the child submission on the leaderboard. Only the parent submission should be shown with scores from child submissions.
It looks like when the rule is applied, it is applied to submissions regardless of if they are parent or child.
Reported in:
- #1570
- #1540
- 主要语言
- Python
- 星标
- 197
- 派生
- 82
- 平均合并
- 6 天 18 小时
- 30 天内合并 PR
- 34
环境准备
- 提供 Dockerfile 或 Docker Compose 文件
- 有 Pull Request 模板
- 阅读贡献指南
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
codalab/codabench 的其他 Issue
-
Wrong count for failed submissions in Resource interface可能已有人在做 @ihsaan-ullah 于 26 天前认领。 未关闭Bug
难度 2/5 1-3 小时 新手友好度 68/100
维护者通常 5 天内回复
-
难度 4/5 1-2 天 新手友好度 20/100
codalab/codabench#2697 · 1 条评论 ·
维护者通常 5 天内回复
-
Bug
难度 4/5 3-5 天 新手友好度 25/100
codalab/codabench#2687 · 2 条评论 ·
维护者通常 5 天内回复
-
难度 3/5 1-2 天 新手友好度 55/100
维护者通常 5 天内回复
-
Post-it
难度 3/5 1-2 天 新手友好度 70/100
codalab/codabench#2676 · 2 条评论 ·
维护者通常 5 天内回复
查看 codalab/codabench 的全部 Issue
相似的 Issue
-
ci-rerun: collect.py fails a whole pr-babysit cycle on one transient GitHub 5xx and never retries未关闭follow-up
难度 2/5 1-3 小时 新手友好度 62/100
维护者通常 1 天内回复
-
难度 2/5 1-3 小时 新手友好度 70/100
-
Built-in QUBO fallback applies bitwise xor to floating binary states可能已有人在做 @iloveeyjafjalla 今天认领。 未关闭
难度 2/5 1-3 小时 新手友好度 72/100
qboson/kaiwu-pytorch-plugin#1702 ·
维护者通常 3 天内回复
-
bug v2
难度 2/5 1-3 小时 新手友好度 76/100
modelcontextprotocol/python-sdk#3811 ·
维护者通常 1 天内回复
-
cost:cheap practicality:seen-in-the-wild severity:medium
难度 2/5 1-3 小时 新手友好度 72/100
fairagro/m4.2_advanced_middleware_api#620 ·
维护者通常 1 天内回复