huggingface/lighteval

[FT] showing count in Markdown summary table

Aberta

#804 aberto em 9 de jun. de 2025

Ver no GitHub
 (5 comentários) (1 reação) (0 responsável)Python (514 forks)auto 404
featuregood first issue

Métricas do repositório

Stars
 (2.496 estrelas)
Métricas de merge de PR
 (Métricas PR pendentes)

Description

Issue encountered

I am seeing this output from lighteval endpoint litellm with lighteval==0.10.0:

|          Task          |Version|    Metric     |Value|   |Stderr|
|------------------------|------:|---------------|----:|---|-----:|
|all                     |       |ether0_accuracy|    0|±  |     0|
|community:ether0:loose:0|      0|ether0_accuracy|    0|±  |     0|

At a glance, it's unclear if I have misconfigured LightevalTaskConfig.hf_filter, or if accuracy truly was 0%.

(Note: in actuality, there were 10 questions, all incorrect.)

Solution/Feature

Showing a count of questions run, to clarify the size of the evaluation.

Possible alternatives

None

Guia do colaborador

Direção de pesquisa
Adicione uma coluna 'Contagem' à saída da tabela de resumo Markdown para mostrar o número de perguntas avaliadas por tarefa.
Pilha de tecnologia
python
Domain
clitooling
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
1
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Menos de 1 hora
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
GitPython
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
85