facebookresearch/fairseq

Inferring the decoder and encoder of a transformer model in a streaming manner

Open

#5,537 opened on 2024年8月29日

GitHub で見る
 (0 comments) (0 reactions) (0 assignees)Python (6,224 forks)batch import
enhancementhelp wantedneeds triage

Repository metrics

Stars
 (29,107 stars)
PR merge metrics
 (30d に merged PR はありません)

説明

Is it possible to infer the model separately through encoder.onnx and decoder.onnx?

コントリビューターガイド