[Benchmark] bench run --profile against a running server attaches no engine log
I maintainer di solito rispondono entro 3 giorni
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 72/100
- Tipo di issue
- Bug
- Chiarezza
- Specificata chiaramente
- Stato di attività
- Attiva
- Stack tecnologico
- cpp
- Ambito
- cli, observability
Direzione di ricerca
Start with the strata_cli/cli.py runner path around line 1304, where the engine log is passed only when the runner started the engine. Trace how a profile's log path and --no-start output attachments are handled, then inspect the benchmark run tests. Done when a run against an already running server includes the engine log tail from its last READY line in the result folder.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Area
Benchmark
Desktop app, Terminal or source?
Terminal (Linux release 0.2.7, Control 0.1.52); the same code is on main at 46c152a1.
What happened
With --profile <run config> --no-start against a server that is already running, the result folder has no engine.log (ours: config.json, outputs.jsonl, provenance/, README.md, results.json), although the profile has a "log" path. The engine log is only attached when the runner started the engine itself (strata_cli/cli.py ~1304 passes the log only when its own process exists). So the engine's stage plan line ("layer split: layers 0-24 (CUDA0), ..."), the expert-cache and PCIe probe lines, and the per-request summaries are all missing from a report that reused a running profile, which is the common case for a production server.
Suggested: when the profile names a log, attach its tail from the last READY line. Happy to send a PR.
Smallest steps or command that reproduce it
Serve a profile, then strata bench run --profile <it> --no-start; list the output folder.
Reproduction status
Reproduced locally (#4468's standard run).
Strata version
0.2.7 (engine 0.1.52, Control 0.1.52); code checked on main 46c152a1.
Graphics card, memory and system
2x RTX 3090 24 GB (PCIe 3.0 x16, one per socket), 2x Xeon E5-2620 v3, 256 GB, Ubuntu 26.10.
Model, size and settings
Flash-Next IQ3_S, layer split 25 with --trim-stage-weights, conversation cache 40 GiB / 16 slots; the full profile is in #4468.
Logs
None needed.
- Lingua principale
- C++
- Stelle
- 11.6k
- Fork
- 1k
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Niko1221/Strata
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
I maintainer di solito rispondono entro 3 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
Niko1221/Strata#4630 · 1 commento ·
I maintainer di solito rispondono entro 3 giorni
-
[Engine] HIP source build fails since v0.1.45: `__shared__ alignas(16) int4` in iq_kernels.cu (expdec verify window)Forse già presa Una pull request collegata a questa issue è aperta o già unita. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
Niko1221/Strata#4589 · 1 commento ·
I maintainer di solito rispondono entro 3 giorni
-
[Engine] strata-sycl.sh drops every STRATA_* variable whose value is 0, so the documented STRATA_PREFILL_MMQ=0 (FP16 prompt path) never reaches the engine; "off" works by accidentForse già presa @ctr-137 l’ha presa 1 giorno fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
I maintainer di solito rispondono entro 3 giorni
-
[Other] tools/ab_engine.py reuses ab_<arm>_r<n>.log in the temp dir across runs, so a later A/B appends its engine logs to an earlier oneForse già presa @ctr-137 l’ha presa 1 giorno fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 3 giorni
Tutte le issue di Niko1221/Strata
Issue simili
-
44-x-y bug :beetle:
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 82/100
electron/electron#55528 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
ai_p2 bug comp-datalake
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
ClickHouse/ClickHouse#128306 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
70 Instance - Raid - Outland
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 85/100
azerothcore/azerothcore-wotlk#28328 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
I maintainer di solito rispondono entro 1 giorno
-
bug-unconfirmed
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 85/100
I maintainer di solito rispondono entro 1 giorno