倉庫議題
huggingface/lighteval
Lighteval is your all-in-one toolkit for evaluating LLMs across multiple backends
議題
開放
[EVAL] Long Horizon Execution
good first issuehelp wantednew-task
帶有初學者友善標籤
7 則留言0 個反應1 位負責人
開放
[EVAL] Add kyrgyzLLM benchmark
good first issuenew-task
為什麼推薦帶有初學者友善標籤
帶有初學者友善標籤
1 則留言0 個反應1 位負責人
開放
[FT] showing count in Markdown summary table
featuregood first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
5 則留言1 個反應0 位負責人
開放
[FT] Add tests for nanotron
featuregood first issuehelp wantedignore-for-release
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
3 則留言0 個反應0 位負責人
開放
[BUG] custom model docs don't run: missing imports
bugdocumentationgood first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
5 則留言0 個反應0 位負責人
開放
[FT] Manage script and language in the Language enum
featuregood first issue
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
2 則留言0 個反應0 位負責人
開放
[EVAL] TauBench:
help wantednew-task
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
1 則留言0 個反應0 位負責人
開放
[EVAL] SciCode: reasearch coding benchmark
help wantednew-task
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
2 則留言0 個反應0 位負責人
開放
[BUG] Optimize tokenization
buggood first issuehelp wantedscience-team
為什麼推薦帶有初學者友善標籤
帶有初學者友善標籤
1 則留言0 個反應1 位負責人
開放
[EVAL] HELMET: long context evals
help wantednew-task
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
2 則留言0 個反應0 位負責人
開放
[EVAL] SWEBENCH multilingual
help wantednew-task
為什麼推薦尚無負責人 · 尚無留言
尚無負責人尚無留言帶有初學者友善標籤
0 則留言0 個反應0 位負責人
開放
[FT] Add tests for `VLLMModel` base methods
featuregood first issue
為什麼推薦尚無留言 · 帶有初學者友善標籤
尚無留言帶有初學者友善標籤
0 則留言1 個反應1 位負責人
開放
Call for contributions: Translate lighteval's doc into Chinese
good first issuehelp wantednew-task
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
2 則留言1 個反應0 位負責人
開放
[BUG] Installing lighteval breaks hydra-core
bughelp wanted
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
1 則留言1 個反應0 位負責人
開放
[EVAL] Adding PHARE
good first issuehelp wantednew-task
為什麼推薦帶有初學者友善標籤
帶有初學者友善標籤
9 則留言0 個反應1 位負責人
開放
[FT] Improve Documentation and Examples
documentationfeaturegood first issuehelp wanted
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
6 則留言1 個反應0 位負責人
開放
[FT] Log progress bar on main process
featurehelp wantedscience-team
為什麼推薦尚無負責人 · 尚無留言
尚無負責人尚無留言帶有初學者友善標籤
0 則留言0 個反應0 位負責人
開放
[FT] Build in a way to specify specific IDs/Lines in Dataset to use as few-shot examples in the same split
featuregood first issuehelp wanted
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
3 則留言0 個反應0 位負責人
開放
[EVAL] Big-Bench Extra Hard (BBEH)
good first issuehelp wantednew-taskscience-team
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
3 則留言0 個反應0 位負責人
開放
[EVAL] Add TUMLU benchmark
good first issuehelp wantednew-task
為什麼推薦尚無負責人 · 帶有初學者友善標籤
尚無負責人帶有初學者友善標籤
10 則留言0 個反應0 位負責人