microsoft/SynapseML

Featurizer should provide option to pass through missing values as Double.NaN instead of removing rows (currently the default)

Open

#304 aberto em 18 de mai. de 2018

Ver no GitHub
 (5 comments) (0 reactions) (1 assignee)Scala (861 forks)batch import
enhancementgood first issuehelp wanted

Métricas do repositório

Stars
 (5.228 stars)
Métricas de merge de PR
 (Mesclagem média 23h 16m) (2 fundiu PRs em 30d)

Description

Hi! Using lightGBM I faced another problem. I'm not sure if it is bug or feature :) but in our data we have a lot of empty values, so before we used sparse vector to store features, and it worked fine with our previous lib. But when i tried to use featurizer, that you provide - i mentioned, that you skip all raws if any nulls are presents as a feature. you can see it in example in attachment. So is it possible to have sparse feature vector for lightGBM training?

https://gist.github.com/ekaterina-sereda-rf/929183b9bcbbf5baf15eec3e81329992

Guia do colaborador

Direção de pesquisa
Examine a implementação do Featurizer na base de código do SynapseML, provavelmente em src/main/scala. O comportamento atual descarta linhas com recursos nulos; a questão solicita uma opção para reter valores ausentes como Double.NaN. Procure a classe ou objeto Featurizer e identifique onde está a lógica de tratamento de nulos. A alteração envolve adicionar um parâmetro de configuração (por exemplo, setHandleMissing) e modificar a lógica de transformação para descartar linhas ou passar NaN. Como a questão tem um responsável atribuído e é antiga, é aconselhável verificar se existem PRs relacionados ou se os mantenedores forneceram orientações nos comentários.
Pilha de tecnologia
scala
Domain
datamachine learning
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
ScalaApache Spark
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
40