localminimum/QANet

TODOs

Open

#13 aberto em 26 de abr. de 2018

Ver no GitHub
 (6 comments) (0 reactions) (0 assignees)Python (310 forks)batch import
help wanted

Métricas do repositório

Stars
 (988 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

This is an umbrella issue where we can collectively tackled some problems and improve general open source reading comprehension quality.

Goal The network is already there. We just need to add more features on top of the current model.

  • Implement full features stated in the original paper
  • Achieve EM/F1 performance stated in the original paper with a single model settings

Model

  • Increase the hidden units to 128. #15 reported performance increase when the hidden units increased from 96 to 128
  • Increase the number of heads to 8
  • Add dropouts in better locations to maximize regularization
  • Train "unknown" word embedding

Data

  • Implement paraphrasing by back-translation to increase the data size

Contribution to any of these issues is welcome and please comment on this issue and let us know if you want to work on these problems.

Guia do colaborador

Direção de pesquisa
Estude o artigo do QANet e a implementação atual do repositório. Para melhorias no modelo, localize a configuração do modelo e modifique os hiperparâmetros. Para aumento de dados, implemente a retrotradução usando um serviço de tradução e integre ao pipeline de dados.
Pilha de tecnologia
pythontensorflow
Domain
machine learningai
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-2 dias
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
PythonGitTensorFlowMachine Learning
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
75