facebookresearch/fairseq

Is there "Linear Transformer" Model in Fairseq.transformers ?

Open

#4.872 aberto em 19 de nov. de 2022

Ver no GitHub
 (0 comments) (0 reactions) (0 assignees)Python (6.224 forks)batch import
enhancementhelp wantedneeds triage

Métricas do repositório

Stars
 (29.107 stars)
Métricas de merge de PR
 (Nenhuma PRs mesclada em 30d)

Description

I am trying the baseline of linear transformer, is there a relevant implementation in fairseq?

Guia do colaborador

Direção de pesquisa
Verifique a documentação oficial do Fairseq e o modelo zoo para quaisquer variantes de transformer. Se nenhuma for encontrada, sugira olhar o código fonte em fairseq/models/ para qualquer implementação de transformer linear. Como o problema é uma pergunta, pode ser necessário que um mantenedor responda.
Pilha de tecnologia
pythonpytorch
Domain
machine learningai
Tipo Issue
Pesquisa
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
1
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Menos de 1 hora
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Ativo
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
None
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
90