pytorch-fast-transformers version

Aperta
#5 2 commenti 2 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
3/5
Tempo stimato
1-2 giorni
Idoneità per principianti
35/100
Tipo di issue
Bug
Chiarezza
Abbastanza chiara
Stato di attività
Ferma
Stack tecnologico
pytorch

Direzione di ricerca

Inizia da environment.md ed esegui run_finetune_xxxx.sh, quindi ispeziona fast_transformers/feature_maps/fourier_features.py alla riga 37. Riproduci l'errore con le versioni indicate di PyTorch e pytorch-fast-transformers e verifica la loro compatibilità. Il lavoro è completato quando viene documentata la combinazione di versioni compatibili oppure vengono aggiornate le indicazioni sulla dipendenza interessata.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Hello, I have replicated the conda environment following environment.md and downloaded the pre-trained model checkpoints, when I tried to run run_finetune_xxxx.sh I got this error:
AttributeError: module 'torch.linalg' has no attribute 'qr'
the corresponding file is fast_transformers/feature_maps/fourier_features.py, line 37.
I looked up the pytorch documentation for module torch.linalg and found that this module does not have the function qr for pytorch1.7.1 and below.
To save trouble, I didn't upgrade pytorch but downgraded pytorch-fast-transformers to version 0.3.0 which uses torch.qr instead and it worked.
So I‘m wondering if there is any version mismatch between pytorch and pytorch-fast-transformers or just because I did't follow the guide well.
Some of my conda environments are below:
CUDA version 11.0
pytorch==1.7.1
pytorch-lightning==1.1.5
pytorch-fast-transformers==0.4.0 then changed to 0.3.0
cudatoolkit==11.0.221
apex==0.1
Thank you.

Lingua principale
Jupyter Notebook
Stelle
422
Fork
61
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Preparare l'ambiente

Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di IBM/molformer

Tutte le issue di IBM/molformer

Issue simili

Altre issue su Machine Learning

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.