问题一：print(model）与forward中定义的model不一致，与文章中的结构不一致。问题二：且训练时，无法更新fc层梯度
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 25/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Área
- machine-learning
Línea de trabajo
Comienza reproduciendo el comando reportado en train_dist.py e inspecciona la estructura del modelo y la definición de forward en deepten.py. Compara el modelo impreso, deepten.py y la salida de gradientes adjunta para determinar si se esperan las capas fully connected 2048-to-1000 y por qué sus gradientes no se actualizan; el issue estará terminado cuando ambos puntos tengan una explicación y una resolución verificadas.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
你好，打扰了，以下是我的问题。
训练：CUDA_VISIBLE_DEVICES=0,1,2,3 python train_dist.py --dataset minc --model deepten_resnet50_minc --batch-size 2 --lr 0.004 --epochs 80 --lr-step 60 --lr-scheduler step --weight-decay 5e-4
问题一：print(model）与forward中定义的model不一致，与文章中的结构不一致
print(model)比deepten.py中的define forward的结构多了全连接层，如下附件
print(model).txt
deepten.txt
而文章中这个结构似乎没有全连接层？
问题二：训练时，fc层梯度无法更新？
如下是我训练打印出的梯度
gra.txt
总的来说我不太清楚是否应该包含全连接层2048，1000。如果应该包含，我如何解决梯度更新的问题，如果不该包含，我该在哪里取删除它？
- Lenguaje dominante
- Python
- Estrellas
- 2k
- Forks
- 448
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
- Incluye un Dockerfile o un archivo de Docker Compose
- Sin plantilla de pull request
- Sin guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de zhanghang1989/PyTorch-Encoding
-
Dificultad 3/5 1-2 días Aptitud para principiantes 30/100
zhanghang1989/PyTorch-Encoding#432 · 2 comentarios ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 25/100
zhanghang1989/PyTorch-Encoding#430 · 3 comentarios · 2 reacciones ·
-
,Abierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 1/100
-
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
zhanghang1989/PyTorch-Encoding#426 · 1 comentario ·
-
lib compile failedAbierto
Dificultad 4/5 3-5 días Aptitud para principiantes 25/100
zhanghang1989/PyTorch-Encoding#425 · 2 comentarios ·
Todos los issues de zhanghang1989/PyTorch-Encoding
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 62/100
earthtojake/text-to-cad#758 ·
Los mantenedores suelen responder en 1 día
-
domain:upgrades enhancement needs-triage
Dificultad 2/5 1-3 horas Aptitud para principiantes 66/100
gke-labs/kube-agents#4634 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 62/100
agardnerIT/opamp-server-py#116 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 1 día
-
enhancement good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
elviskahoro/sdk-python-attio#144 · 1 comentario ·
Los mantenedores suelen responder en 1 día