Is there a C++ version of Fairseq based on libtorch · facebookresearch/fairseq#5540

(0 comments) (0 reactions) (0 assignees)Python (6,224 forks)batch import

enhancementhelp wantedneeds triage

Repository metrics

Stars: (29,107 stars)
PR merge metrics: (30d に merged PR はありません)

説明

🚀 Feature Request

A C++ version of Fairseq based on libtorch is required

Motivation

Pytorch and the entire python environment are too large after packaging, so use libtorch instead. However, the previous fairseq loaded model must also be loaded in C++, but no C++ version of fairseq has been found

Pitch

Provides a C++ version of fairseq based on libtorch

Alternatives

Additional context

コントリビューターガイド

調査方針: 現在のPython fairseqライブラリを研究し、モデルの読み込みと推論を理解します。PyTorchのC++ドキュメントと例を参照して、モデルをTorchScriptにエクスポートする方法を検討します。事前にトレーニングされたモデルを読み込み、シーケンス間生成を実行する最小限のC++推論エンジンの作成を検討してください。リポジトリ内のC++デプロイメントに関する既存の課題や議論を確認します。
技術スタック: cpppytorch
領域: ai
Issue 種別: 機能
難度: 5
推定時間: 1週間超
活動状況: 新着
明確さ: 明確
前提条件: C++PyTorch
初心者向け度: 5