Issue del repository
huggingface/lighteval
Lighteval is your all-in-one toolkit for evaluating LLMs across multiple backends
Issue
Aperta
[EVAL] Long Horizon Execution
good first issuehelp wantednew-task
Ha una label adatta ai principianti
7 commenti0 reazioni1 assegnatario
Aperta
[EVAL] Add kyrgyzLLM benchmark
good first issuenew-task
Perché consigliataHa una label adatta ai principianti
Ha una label adatta ai principianti
1 commento0 reazioni1 assegnatario
Aperta
[FT] showing count in Markdown summary table
featuregood first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
5 commenti1 reazione0 assegnatari
Aperta
[FT] Add tests for nanotron
featuregood first issuehelp wantedignore-for-release
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
3 commenti0 reazioni0 assegnatari
Aperta
[BUG] custom model docs don't run: missing imports
bugdocumentationgood first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
5 commenti0 reazioni0 assegnatari
Aperta
[FT] Manage script and language in the Language enum
featuregood first issue
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
2 commenti0 reazioni0 assegnatari
Aperta
[EVAL] TauBench:
help wantednew-task
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
1 commento0 reazioni0 assegnatari
Aperta
[EVAL] SciCode: reasearch coding benchmark
help wantednew-task
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
2 commenti0 reazioni0 assegnatari
Aperta
[BUG] Optimize tokenization
buggood first issuehelp wantedscience-team
Perché consigliataHa una label adatta ai principianti
Ha una label adatta ai principianti
1 commento0 reazioni1 assegnatario
Aperta
[EVAL] HELMET: long context evals
help wantednew-task
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
2 commenti0 reazioni0 assegnatari
Aperta
[EVAL] SWEBENCH multilingual
help wantednew-task
Perché consigliataNessun assegnatario · Nessun commento
Nessun assegnatarioNessun commentoHa una label adatta ai principianti
0 commenti0 reazioni0 assegnatari
Aperta
[FT] Add tests for `VLLMModel` base methods
featuregood first issue
Perché consigliataNessun commento · Ha una label adatta ai principianti
Nessun commentoHa una label adatta ai principianti
0 commenti1 reazione1 assegnatario
Aperta
Call for contributions: Translate lighteval's doc into Chinese
good first issuehelp wantednew-task
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
2 commenti1 reazione0 assegnatari
Aperta
[BUG] Installing lighteval breaks hydra-core
bughelp wanted
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
1 commento1 reazione0 assegnatari
Aperta
[EVAL] Adding PHARE
good first issuehelp wantednew-task
Perché consigliataHa una label adatta ai principianti
Ha una label adatta ai principianti
9 commenti0 reazioni1 assegnatario
Aperta
[FT] Improve Documentation and Examples
documentationfeaturegood first issuehelp wanted
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
6 commenti1 reazione0 assegnatari
Aperta
[FT] Log progress bar on main process
featurehelp wantedscience-team
Perché consigliataNessun assegnatario · Nessun commento
Nessun assegnatarioNessun commentoHa una label adatta ai principianti
0 commenti0 reazioni0 assegnatari
Aperta
[FT] Build in a way to specify specific IDs/Lines in Dataset to use as few-shot examples in the same split
featuregood first issuehelp wanted
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
3 commenti0 reazioni0 assegnatari
Aperta
[EVAL] Big-Bench Extra Hard (BBEH)
good first issuehelp wantednew-taskscience-team
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
3 commenti0 reazioni0 assegnatari
Aperta
[EVAL] Add TUMLU benchmark
good first issuehelp wantednew-task
Perché consigliataNessun assegnatario · Ha una label adatta ai principianti
Nessun assegnatarioHa una label adatta ai principianti
10 commenti0 reazioni0 assegnatari