facebookresearch/fairseq

Inferring the decoder and encoder of a transformer model in a streaming manner

Open

#5,537 创建于 2024年8月29日

在 GitHub 查看
 (0 评论) (0 反应) (0 负责人)Python (6,224 fork)batch import
enhancementhelp wantedneeds triage

仓库指标

Star
 (29,107 star)
PR 合并指标
 (30 天内没有已合并 PR)

描述

Is it possible to infer the model separately through encoder.onnx and decoder.onnx?

贡献者指南