CLI isn't overriding settings in the baseline.toml file
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 45/100
Direzione di ricerca
Riproduci il problema con uv run python -m saev train e le opzioni mostrate, usando configs/preprint/baseline.toml come input di configurazione. Traccia come vengono analizzati e sovrascritti i valori data.scale_mean e data.scale_norm; l'attività è completata quando i valori CLI False hanno la precedenza sui valori predefiniti TOML durante l'addestramento.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Training jobs are still calculating means even though they are set to False in the CLI.
CLI Command:
uv run python -m saev train
--sweep configs/preprint/baseline.toml
--data.shard-root /fs/scratch/PAS2136/oh-scipe/activations/406094ac63e6de7a592d5ddbaa581e147d51a2596e39732dafe2171cfe15225b
--data.layer -1
--data.patches patches
--data.scale-mean False
--data.scale-norm False sae:relu
--sae.d-vit 768
baseline.toml file contents:
tag = "baseline-v4.8"
lr = [3e-4, 1e-3, 3e-3]
n_lr_warmup = 500
n_sparsity_warmup = 500
[sae]
normalize_w_dec = true
remove_parallel_grads = true
exp_factor = [16, 32]
[objective]
sparsity_coeff = [4e-4, 8e-4, 1.6e-3]
[data]
scale_mean = true
scale_norm = true
An example of this working correctly is in the python formatter 'black' where default options can be overridden in the CLI:
https://github.com/psf/black/blob/main/pyproject.toml
- Lingua principale
- Python
- Stelle
- 67
- Fork
- 12
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Nessun modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Imageomics/saev
-
enhancement
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
Imageomics/saev#30 · 3 commenti ·
-
performance
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
Imageomics/saev#26 · 1 reazione ·
-
Incorrect shape assertion in test_decode_prefixes_device_handlingForse già presa @samuelstevens l’ha presa 369 giorni fa. Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 52/100
Imageomics/saev#23 ·
-
Bug: BatchLimiter incorrectly counts samplesForse di nuovo libera Una pull request per questa issue è stata chiusa senza essere unita. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 45/100
Imageomics/saev#17 ·
-
Difficoltà 3/5 1-2 giorni Idoneità per principianti 45/100
Imageomics/saev#11 ·
Tutte le issue di Imageomics/saev
Issue simili
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 77/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 67/100
webrecorder/warcio#209 ·
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
Jeffy123-zhu/logspecter#20 ·
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 85/100
I maintainer di solito rispondono entro 1 giorno