BERT or Transformer?
まだ誰も着手していません。
評価
- 難易度
- 3/5
- 見積もり時間
- 1〜2日
- 初心者へのやさしさ
- 35/100
- issue の種類
- ドキュメント
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- jupyter-notebook
調査の方向性
セクション 3.3 と Appendix C2 に記載されているアーキテクチャを、リポジトリ内の実装ノートブックまたはエントリポイントと比較する。実装でメインモデルと自己回帰ベースラインに BERT が使用されているかを確認し、どのソースが最新のものかを明確にしたうえで、それに応じて preprint または実装の説明を更新する。
索引モデルが issue の本文から書いたものです。
説明
Hi Kevin,
Thank you for the impressive work!
In section 3.3, it says "a vanilla bidirectional transformer architecture" is adopted with a citation to the origin transformer paper. Also in Appendix C2, "an auto-regressive transformer" is used as a baseline.
I am quite confused since it looks like the implementation uses a BERT architecture (for both the main model and the autoregressive baseline). I am wondering whether the implementation or the preprint has been updated.
Best,
- 主要言語
- Jupyter Notebook
- スター
- 568
- フォーク
- 74
- 平均マージ
- 20時間 2分
- マージ済み PR（30日）
- 1
コントリビューションガイド
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
microsoft/foldingdiff のほかの issue
-
難易度 4/5 3〜5日 初心者へのやさしさ 38/100
microsoft/foldingdiff#32 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 30/100
microsoft/foldingdiff#28 · コメント 1 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
microsoft/foldingdiff#26 ·
-
難易度 1/5 1時間未満 初心者へのやさしさ 20/100
microsoft/foldingdiff#25 ·
-
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
microsoft/foldingdiff#24 ·
microsoft/foldingdiff の issue をすべて見る
似ている issue
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
vllm-project/vllm#57974 · コメント 4 件 ·
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 90/100
torchgeo/torchgeo-bench#400 · コメント 1 件 ·
-
難易度 1/5 1時間未満 初心者へのやさしさ 90/100
open-compass/VLMEvalKit#1698 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 86/100