Inference latency benchmark
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 66/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Attiva
- Stack tecnologico
- python, pytorch
- Ambito
- machine-learning, performance
Direzione di ricerca
Lavora in src/complexity.py e aggiungi latency_ms(model, input_shape=(1,3,64,64), runs=200), che richiede 10 esecuzioni di riscaldamento, model.eval() e torch.no_grad(), e deve registrare il nome della CPU/dispositivo. La issue #16 è elencata come dipendenza, quindi verifica se è stata unita e quale oggetto modello fornisce prima di collegare questo. È completata quando la funzione restituisce un float positivo in millisecondi.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Batch-1 CPU latency.
Files: src/complexity.py
Tasks
-
latency_ms(model, input_shape=(1,3,64,64), runs=200)with 10 warm-up runs - Use
model.eval()andtorch.no_grad() - Record the device/CPU name in the output
Done when
Function returns a positive float in milliseconds.
Depends on
#16
Close with a commit or PR message containing Closes #<this issue>.
- Lingua principale
- Jupyter Notebook
- Stelle
- 0
- Fork
- 0
- Merge medio
- 5h 32m
- PR unite (30g)
- 5
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di VisionForgeCSE/CNN-For-Image-Classification
-
evaluation good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
-
Plot confusion matrixApertaevaluation
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
-
training
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
-
Optimizer factoryApertatraining
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
-
training
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
Tutte le issue di VisionForgeCSE/CNN-For-Image-Classification
Issue simili
-
Non-positive worker counts wait for results without starting workersForse già presa @IlyaKhalafi l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
I maintainer di solito rispondono entro 1 giorno
-
HFLM ignores bare xpu, hpu, and npu device namesForse già presa @sdivyanshu90 l’ha presa oggi. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 82/100
EleutherAI/lm-evaluation-harness#4386 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
-
1D intercept of length 1 is accepted as `fix_params` in population GLM with more than 1 unitForse già presa @dhvani7014 l’ha presa oggi. Apertabug good first issue
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
flatironinstitute/nemos#642 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno