BrokePipeError when terminating Strata on Linux
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Idoneità per principianti
- 72/100
Direzione di ricerca
Inizia in serve/server.py, intorno a main() alle righe 4129-4145 e a close() intorno alla riga 1253. Riproduci l'arresto con Ctrl+C su Linux, quindi verifica come si comporta self.proc.stdin.close() dopo che la pipe del motore è stata chiusa. L'obiettivo è che una terminazione normale non emetta più il traceback di BrokenPipeError, preservando il comportamento di arresto esistente.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
After Ctrl+c to terminate the engine i get:
[strata] stopping (Ctrl+C again to end the engine at once) ...
Traceback (most recent call last):
File "/home/mike/Programs/Strata/serve/server.py", line 4129, in main
time.sleep(1) # Windows never delivers Ctrl+C to an untimed Event.wait()
^^^^^^^^^^^^^
KeyboardInterrupt
During handling of the above exception, another exception occurred:
BrokenPipeError: [Errno 32] Broken pipe
During handling of the above exception, another exception occurred:
Traceback (most recent call last):
File "/home/mike/Programs/Strata/serve/server.py", line 4145, in <module>
sys.exit(main())
^^^^^^
File "/home/mike/Programs/Strata/serve/server.py", line 4136, in main
close()
File "/home/mike/Programs/Strata/serve/server.py", line 1253, in close
self.proc.stdin.close()
The engine itself runs great! Here is my setup:
Strata v0.1.39
Ubuntu 24.04.5 LTS
Intel® Core™ Ultra 5 245K
64Gb RAM
2x RTX 5060ti 16Gb (used --gpus 0,1), RTX 3060 12Gb (not used)
model.json:
{
"exe": "/home/mike/Programs/Strata/engine/strata",
"args": [
"--pack",
"/home/mike/Programs/Strata-data/packs/swift-iq3_xxs",
"--native",
"/home/mike/Programs/Strata-data/models/swift-IQ3_XXS/Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS-00001-of-00002.gguf",
"--ple-gguf",
"/home/mike/Programs/Strata-data/models/swift-IQ3_XXS/Swift-Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS-00001-of-00002.gguf",
"--expert-profile",
"/home/mike/Programs/Strata/data/expert-profile.bin",
"--expert-cache",
"auto",
"--prefill",
"auto",
"--spec",
"4",
"--mtp",
"/home/mike/Programs/Strata-data/mtp/rt",
"--max-context",
"184320",
"--kv",
"q4_0",
"--kv-resident",
"32768",
"--pcie-frac",
"0.00",
"--spec-min-p",
"0.70",
"--slots",
"2"
],
"cwd": "/home/mike/Programs/Strata",
"tokenizer": "/home/mike/Programs/Strata-data/packs/swift-iq3_xxs/tokenizer",
"model_name": "swift-1.5-iq3_xxs",
"effort_position": "end",
"log": "/home/mike/Programs/Strata/strata-swift-iq3_xxs.log",
"lib_dirs": [
"/usr/local/cuda-13.3/bin",
"/usr/local/cuda-13.3/lib64"
],
"port": 1234,
"gpu": [
0,
1
],
"gpus_asked": true,
"layer_split": "auto"
}
- Lingua principale
- C++
- Stelle
- 11.6k
- Fork
- 1k
- Merge medio
- 7h 46m
- PR unite (30g)
- 30
Preparare l'ambiente
Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Niko1221/Strata
-
expert_cache_segmented_test fails on HIP builds instead of skipping (--vram-elastic is CUDA-only)Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 83/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 66/100
I maintainer di solito rispondono entro 1 giorno
-
MI50 32 GB (gfx906) on 0.1.40.1: 126K/252K needles, a 16 GB-limit run, temperatures (results)Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 82/100
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di Niko1221/Strata
Issue simili
-
Round video messages start gray and blocky with libx264: encoder is configured for 1,000,000 fpsAperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
telegramdesktop/tdesktop#31422 ·
I maintainer di solito rispondono entro 9 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
I maintainer di solito rispondono entro 5 giorni
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
zen-browser/desktop#15809 · 1 reazione ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
ggml-org/whisper.cpp#4103 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 62/100
bitcoin-core/gui-qml#987 ·
I maintainer di solito rispondono entro 3 giorni