问题一:print(model)与forward中定义的model不一致,与文章中的结构不一致。问题二:且训练时,无法更新fc层梯度
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 25/100
- issue の種類
- バグ
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
調査の方向性
まず train_dist.py で報告されたコマンドを再現し、deepten.py のモデル構造と forward の定義を調べます。表示されたモデル、deepten.py、添付された勾配の出力を比較し、2048-to-1000 の fully connected 層が想定されたものか、またそれらの勾配が更新されない理由を判断します。両方の点について検証済みの説明と解決策が得られた時点で issue は完了です。
索引モデルが issue の本文から書いたものです。
説明
你好,打扰了,以下是我的问题。
训练:CUDA_VISIBLE_DEVICES=0,1,2,3 python train_dist.py --dataset minc --model deepten_resnet50_minc --batch-size 2 --lr 0.004 --epochs 80 --lr-step 60 --lr-scheduler step --weight-decay 5e-4
问题一:print(model)与forward中定义的model不一致,与文章中的结构不一致
print(model)比deepten.py中的define forward的结构多了全连接层,如下附件
print(model).txt
deepten.txt
而文章中这个结构似乎没有全连接层?
问题二:训练时,fc层梯度无法更新?
如下是我训练打印出的梯度
gra.txt
总的来说我不太清楚是否应该包含全连接层2048,1000。如果应该包含,我如何解决梯度更新的问题,如果不该包含,我该在哪里取删除它?
- 主要言語
- Python
- スター
- 2k
- フォーク
- 448
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートなし
- コントリビューションガイドなし
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
zhanghang1989/PyTorch-Encoding のほかの issue
-
難易度 3/5 1〜2日 初心者へのやさしさ 30/100
zhanghang1989/PyTorch-Encoding#432 · コメント 2 件 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 25/100
zhanghang1989/PyTorch-Encoding#430 · コメント 3 件 · リアクション 2 件 ·
-
,オープン
難易度 5/5 1週間以上 初心者へのやさしさ 1/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
zhanghang1989/PyTorch-Encoding#426 · コメント 1 件 ·
-
lib compile failedオープン
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
zhanghang1989/PyTorch-Encoding#425 · コメント 2 件 ·
zhanghang1989/PyTorch-Encoding の issue をすべて見る
似ている issue
-
needs-area-label
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
メンテナーはふだん 2 日以内に返信
-
enhancement good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
Official-Space-AI/OpenPhysGraspGen#114 ·
メンテナーはふだん 2 日以内に返信
-
changelog investigate
難易度 2/5 1〜3時間 初心者へのやさしさ 62/100
ramnes/notion-sdk-py#441 ·
-
qa_bug
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
NVIDIA-NeMo/Gym#5644 ·
メンテナーはふだん 2 日以内に返信
-
BUG: catalog database credentials printed to logs at startup対応中かも @cjboyle が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
メンテナーはふだん 1 日以内に返信