recommenders-team/recommenders

[ASK] Question on ndcg_at_k calculation

Open

#1962 aperta il 24 lug 2023

Vedi su GitHub
 (0 commenti) (0 reazioni) (0 assegnatari)Python (2972 fork)batch import
help wanted

Metriche repository

Star
 (17.706 star)
Metriche merge PR
 (Merge medio 6g 16h) (10 PR mergiate in 30 g)

Descrizione

Description

Why are we using rank ('first) to get the order of the ideal ranking instead of rank('min') or rank('average)?

https://github.com/microsoft/recommenders/blob/main/recommenders/evaluation/python_evaluation.py#L687 line 597 df_idcg["irank"] = df_idcg.groupby(col_user, as_index=False, sort=False)[ col_rating ].rank("first", ascending=False)

In this case, if there is a tied in the rating, for example, item A, B, C, D, rating is 1, 0, 0,0. Using rank('first), irank = 1,2,3,4. But should we take the tied condition into consideration, that means the irank = 1,2,2,2?

Other Comments

Guida contributor

Direzione di ricerca
Studia l'impatto dell'utilizzo di diversi metodi di ranking (first, min, average) per valutazioni pari nel calcolo dell'NDCG. Confronta l'implementazione attuale con la gestione ideale dei pareggi.
Tech stack
python
Dominio
databackend
Tipo issue
Ricerca
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
PythonRecommendation Systems
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
50