Tencent/TurboTransformers

Refactor MultiheadAttention and other Layers

オープン

#140 opened on 2020/07/22

GitHub で見る
 (0 件のコメント) (0 件のリアクション) (0 人の担当者)C++ (206 件のフォーク)github user discovery
enhancementhelp wanted

Repository metrics

Stars
 (1,546 個のスター)
PR merge metrics
 (PR metrics pending)

説明

Now the logic inside MultiheadAttention Layer is too complex for development. Moreover, some bugs exist in intermediate management. It is the first priority to rewrite these codes to make others easily understand what Turbo is doing.

コントリビューターガイド

調査方針
現在のMultiheadAttentionの実装を調べ、冗長なコードやバグのあるコードパスを特定し、よりシンプルな構造にリファクタリングします。
技術スタック
なし
領域
backend
Issue 種別
リファクタリング
難度新しい貢献者にとっての実装難度です。1 は非常に小さな変更、5 は専門的な作業です。
3
推定時間経験ある貢献者が調査、実装、テスト、pull request 準備にかけるおおよその時間範囲です。
1-2日
活動状況Issue が今どれだけ取り組みやすいかを示します。新しい、活発、古い、ブロック中、またはメンテナー入力待ちなどです。
新着
明確さ期待される変更、受け入れ条件、次の手順がどれだけ明確かを示します。
明確
前提条件
C++Transformer Models
初心者向け度初回貢献者にどれだけ取り組みやすいかを 1-100 で推定したスコアです。
45