finetune stage2 of Internvideo2 with num_frames 12 error
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 25/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- python
- Área
- machine-learning
Línea de trabajo
Comienza en tasks/shared_utils.py, en la línea 192, donde setup_model carga el state dict, y reproduce el stage2 finetuning con num_frames 12. Compara las shapes del checkpoint y del modelo actual indicadas para vision_encoder.pos_embed y, a continuación, verifica que la ruta de carga corregida finaliza sin el size-mismatch error.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
When I try to finetune stage2 of Internvideo2 with num_frames 12, I meet the error below:
[rank0]: File "/root/nginx/multi_modality/tasks/shared_utils.py", line 192, in setup_model
[rank0]: msg = model_without_ddp.load_state_dict(state_dict, strict=False)
[rank0]: File "/usr/local/Python3.8.12/lib/python3.8/site-packages/torch/nn/modules/module.py", line 2215, in load_state_dict
[rank0]: raise RuntimeError('Error(s) in loading state_dict for {}:\n\t{}'.format(
[rank0]: RuntimeError: Error(s) in loading state_dict for InternVideo2_Stage2:
[rank0]: size mismatch for vision_encoder.pos_embed: copying a param with shape torch.Size([1, 1025, 1408]) from checkpoint, the shape in current model is torch.Size([1, 3073, 1408]).
How to solve it? Looking forward to your reply. Thanks.
- Lenguaje dominante
- Python
- Estrellas
- 2.4k
- Forks
- 160
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Guía de contribución
No hay ninguna guía de contribución indexada para este repositorio
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de OpenGVLab/InternVideo
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
OpenGVLab/InternVideo#324 · 1 comentario ·
-
InternVideo2 stage-1 weights Abierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100
OpenGVLab/InternVideo#323 ·
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
OpenGVLab/InternVideo#322 ·
-
Dificultad 4/5 3-5 días Aptitud para principiantes 42/100
OpenGVLab/InternVideo#321 ·
-
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100
OpenGVLab/InternVideo#319 · 1 comentario ·
Todos los issues de OpenGVLab/InternVideo
Issues similares
-
essnmx good first issue
Dificultad 1/5 Menos de una hora Aptitud para principiantes 95/100
-
[Feature] 奇物选择添加优先级 Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 65/100
syfoud/Simulated_Scepter#174 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
Giskard-AI/giskard-oss#2840 · 1 comentario ·
-
A claim comment carrying the issue number is silently declined while the workflow reports success Abiertoarea: repo bug perceived difficulty: 2
Dificultad 2/5 1-3 horas Aptitud para principiantes 70/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 75/100
yeti-platform/yeti#1380 ·