Fine-tuning on SSV2 with official 1B_ft_ssv2_f8.pth weights yields only ~2.78% Top-1 accuracy, loss barely decreases
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Accessibilité débutants
- 42/100
- Type d'issue
- Bug
- Clarté
- À clarifier
- Activité
- Calme
- Stack technique
- python
- Domaine
- machine-learning
Piste de recherche
Aucun fichier, test ou point d’entrée n’est indiqué. Commencez par reproduire l’exécution de fine-tuning de SSV2 avec les poids officiels, puis suivez les chemins impliqués par le chargement du modèle, du jeu de données et de la configuration d’entraînement ; le travail est terminé lorsque la cause de la loss presque plate et de la très faible précision Top-1 est identifiée et que l’exécution apprend comme prévu.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
I downloaded the official weights (L14_ft_ssv2_f8.pth) and fine-tuned the model on the SSV2 dataset. After 8 epochs, the validation Top-1 accuracy is only ~2.78%, which is barely above random guessing (SSV2 has 174 classes, random baseline is ~0.57%). Both training and validation loss remain nearly flat throughout training (~4.22 → 4.04), indicating that the model is not learning.
{"train_lr": 2.1873697505525736e-06, "train_loss": 4.39070353931896, "val_loss": 4.047283397870281, "val_acc1": 2.550649960861434, "epoch": 0}
{"train_lr": 6.3125e-06, "train_loss": 4.2231926481143605, "val_loss": 4.047495159728945, "val_acc1": 2.046170143769742, "epoch": 1}
{"train_lr": 1.0437630249447425e-05, "train_loss": 4.223525819729209, "val_loss": 4.046330469506293, "val_acc1": 2.0582776594242813, "epoch": 2}
{"train_lr": 1.2100895909686002e-05, "train_loss": 4.223054990936006, "val_loss": 4.0448254477250725, "val_acc1": 2.7322626938320687, "epoch": 3}
{"train_lr": 9.890037348431687e-06, "train_loss": 4.22190657817833, "val_loss": 4.043751512584705, "val_acc1": 2.7161193368548253, "epoch": 4}
{"train_lr": 6.312681116098593e-06, "train_loss": 4.221108646998975, "val_loss": 4.045732998547919, "val_acc1": 2.3528938718372863, "epoch": 5}
{"train_lr": 2.7352557035717826e-06, "train_loss": 4.220008719731904, "val_loss": 4.041641456921588, "val_acc1": 2.691904306469476, "epoch": 6}
{"train_lr": 5.242160262188567e-07, "train_loss": 4.219491178569124, "val_loss": 4.0436078170377545, "val_acc1": 2.5748649875518628, "epoch": 7}
{"Final top-1": 2.7801303531317894, "Final Top-5": 12.541886069889898}
- Langage dominant
- Python
- Étoiles
- 2.4k
- Forks
- 162
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Préparer son environnement
Ce projet ne fournit ni conteneur de développement, ni Dockerfile, ni guide de contribution : l'installation est à votre charge. Commencez par son README, et consultez notre guide de la première contribution pour les étapes générales.
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de OpenGVLab/InternVideo
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 25/100
OpenGVLab/InternVideo#324 · 1 commentaire ·
-
InternVideo2 stage-1 weightsOuverte
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 20/100
OpenGVLab/InternVideo#323 ·
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 25/100
OpenGVLab/InternVideo#322 ·
-
Consider using pre-built Flash Attention kernels via `kernels`Peut-être à nouveau libre @ik020 l’a pris il y a 36 jours, et aucune pull request n’est ouverte. Ouverte
Difficulté 4/5 3-5 jours Accessibilité débutants 35/100
OpenGVLab/InternVideo#319 · 1 commentaire ·
-
Difficulté 5/5 Plus d'une semaine Accessibilité débutants 25/100
OpenGVLab/InternVideo#318 · 4 commentaires · 3 réactions ·
Toutes les issues de OpenGVLab/InternVideo
Issues similaires
-
Difficulté 1/5 Moins d'une heure Accessibilité débutants 83/100
PedestrianDynamics/pyFDS-Evac#766 ·
Les mainteneurs répondent en général sous 1 jour
-
Markdown tables render as literal text in 3 example files (missing blank line before header)Ouverte
Difficulté 1/5 1-3 heures Accessibilité débutants 91/100
alchaincyf/nuwa-skill#86 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
Les mainteneurs répondent en général sous 2 jours
-
Docs Needs Triage
Difficulté 1/5 Moins d'une heure Accessibilité débutants 88/100
pandas-dev/pandas#71055 ·
Les mainteneurs répondent en général sous 1 jour
-
[Bug]: graphify reads files that git's global ignore file hidesPeut-être pris @smngvlkz l’a pris aujourd’hui. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
Graphify-Labs/graphify#4335 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour