Is it not possible to `load` transformer model on cpu only
@maxteneff ci sta già lavorando.
Dal 17/10/2026.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 35/100
- Tipo di issue
- Bug
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Ferma
- Ambito
- backend, machine-learning
Direzione di ricerca
Start in rectools/models/nn/transformers/base.py at __setstate__ around line 596, where loading fails on a CPU-only machine. Read the model serialization and loading path to see how device mapping is handled, then check the related transformer model tests. Done means a fitted model can be loaded for CPU inference when CUDA is unavailable.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
What happened?
I need to run inference of BERT4Rec on a CPU-only instance, but I can't.
When I try to load the fitted model, I get a PyTorch error.
RuntimeError: Attempting to deserialize object on a CUDA device but torch.cuda.is_available() is False. If you are running on a CPU-only machine, please use torch.load with map_location=torch.device('cpu') to map your storages to the CPU.
This occurs in __setstate__ at rectools/models/nn/transformers/base.py:596, and it’s currently impossible to pass the map_location parameter when loading the model.
Is exists some workaround there?
Expected behavior
No response
Relevant logs and/or screenshots
No response
Operating System
ubuntu
Python Version
3.11
RecTools version
0.13.0
- Lingua principale
- Python
- Stelle
- 457
- Fork
- 55
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di MTSWebServices/RecTools
-
good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
MTSWebServices/RecTools#330 ·
-
bug good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 35/100
MTSWebServices/RecTools#269 · 4 commenti ·
-
enhancement
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
MTSWebServices/RecTools#249 ·
-
enhancement
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
MTSWebServices/RecTools#243 ·
-
enhancement
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
MTSWebServices/RecTools#242 ·
Tutte le issue di MTSWebServices/RecTools
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 83/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 87/100
I maintainer di solito rispondono entro 7 giorni
-
S9.7: Methodology pageApertaarea: web priority: P1 story
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
nfiasco/Quant-Time-Machine#151 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
autowarefoundation/autoware_carla_scenario#2019 ·
I maintainer di solito rispondono entro 1 giorno
-
Broken links found in docsApertadocs pydanty:is-working
Difficoltà 1/5 1-3 ore Idoneità per principianti 85/100
pydantic/pydantic-ai#12892 ·
I maintainer di solito rispondono entro 1 giorno