fix: update benchmarking requirements
维护者通常 1 天内回复
评估
这个 Issue 还没有评估数据。
描述
- Change the name from
Requirements for models benchmarking[¶](http://localhost:8000/requirements/benchmark/#requirements-for-models-benchmarking) - In general can drop the terms "Nexus package owner" / "package owner" throughout out. Often we can just us "user" or "experiment owner" or something more generic.
Terminology
Benchmark Target The AI model or algorithm being evaluated. This is the element that varies across benchmark experiments while the benchmark definition and benchmark instance specification are held constant.
This second part of this definition is incorrect (now a benchmark target may be == benchmark experiment). Also it uses a term "benchmark definition" that's not in the terminilolgy. Probably should say - for a given benchmark instance this is the primary element that is varied.
Benchmark Registration and Discoverability
REQ 2.3 uses the bare term benchmark and it's not clear what it is. From the context it sounds like it is a benchmark submission
REQ 2.3: Benchmark Registration The system must provide a method to define and register a benchmark:
The Benchmark Registration and Discoverability requirements miss the requirement adding logical benchmark. instance and the submission These are all someone bundled in current 2.3
Using the Benchmarking System
REQ 3.1 uses bare term benchmark.
- 主要语言
- Python
- 星标
- 3
- 派生
- 7
- 平均合并
- 14 小时 4 分钟
- 30 天内合并 PR
- 15
环境准备
从这里开始
- 先读完整个 Issue,再读项目的贡献指南。
- 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
- Fork 仓库,在一个分支上完成修改。
- 提交 Pull Request,并在描述里引用这个 Issue 编号。
IBM/algorithm-nexus 的其他 Issue
-
难度 2/5 1-3 小时 新手友好度 68/100
IBM/algorithm-nexus#159 ·
维护者通常 1 天内回复
-
feat: allow specifying multiple values for properties in an instance可能已有人在做 @christian-pinto 今天认领。 未关闭enhancement
IBM/algorithm-nexus#277 · 已指派 1 人 ·
维护者通常 1 天内回复
-
难度 3/5 1-2 天 新手友好度 68/100
IBM/algorithm-nexus#276 ·
维护者通常 1 天内回复
-
难度 3/5 1-2 天 新手友好度 45/100
IBM/algorithm-nexus#254 ·
维护者通常 1 天内回复
-
Test bmfm-targets with vllm >= 0.29.0可能已有人在做 @sivanravidos 于 17 天前认领。 未关闭
IBM/algorithm-nexus#240 · 已指派 1 人 ·
维护者通常 1 天内回复
查看 IBM/algorithm-nexus 的全部 Issue
相似的 Issue
-
难度 2/5 1-3 小时 新手友好度 86/100
维护者通常 1 天内回复
-
难度 2/5 1-2 天 新手友好度 70/100
-
难度 2/5 1-3 小时 新手友好度 88/100
维护者通常 7 天内回复
-
难度 2/5 1-3 小时 新手友好度 70/100
lmstudio-ai/mlx-engine#376 ·
-
难度 2/5 1-3 小时 新手友好度 72/100
pyiron/bagofholding#166 ·