recommenders-team/recommenders

[ASK] Using datasets with a large number of users such as Gowalla in LightGCN model, RAM gets a lot involved

Open

#1.697 aberto em 7 de abr. de 2022

Ver no GitHub
 (2 comments) (0 reactions) (0 assignees)Python (2.972 forks)batch import
help wanted

Métricas do repositório

Stars
 (17.706 stars)
Métricas de merge de PR
 (Mesclagem média 6d 16h) (10 fundiu PRs em 30d)

Description

I'm using google colab for training the model. I used gowalla dataset and after a few seconds after calling model = LightGCN(hparams, data, seed=SEED) System RAM gets full and my session terminates. I think this happens when creating adjacency matrix what should I do to fix this?

Guia do colaborador

Direção de pesquisa
Investigue representações eficientes de memória para matriz de adjacência, como matrizes esparsas (ex.: scipy.sparse) ou processamento em lote. Considere usar memory mapping ou construção incremental do grafo.
Pilha de tecnologia
python
Domain
machine learning
Tipo Issue
Performance
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonGit
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
30