facebookresearch/fairseq
Inferring the decoder and encoder of a transformer model in a streaming manner
Ouverte
#5 537 ouverte le 29 août 2024
enhancementhelp wantedneeds triage
Métriques du dépôt
- Stars
- (29 107 étoiles)
- Métriques de merge PR
- (Aucune PR mergée en 30 j)
Description
Is it possible to infer the model separately through encoder.onnx and decoder.onnx?