Additional ext4-backed mount point for high-throughput I/O caching (besides `/kaggle/working`)
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Idoneità per principianti
- 25/100
- Tipo di issue
- Funzionalità
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Ferma
- Stack tecnologico
- docker, linux
- Ambito
- infrastructure, operating-systems
Direzione di ricerca
Iniziare esaminando il benchmark di I/O dell’issue e la configurazione esistente dei mount del container; nel report non sono indicati file di implementazione né test. Definire separatamente da /kaggle/working il mount ext4 aggiuntivo supportato da un dispositivo fisico, quindi verificare che fornisca un percorso di cache più grande e veloce senza modificare il comportamento del mount esistente.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
🚀 Feature
Provide an additional mount point backed by a physical device (ext4), separate from /kaggle/working, to use as a high-throughput I/O cache (e.g., /tmp).
Motivation
- The container root (
/) appears to be provided via an overlay filesystem; write/metadata performance on overlay can be slower or less predictable than on a host-backed volume such as/kaggle/working. - Some applications default to
/tmpfor I/O-intensive caches; on overlay this default can become an I/O bottleneck. /kaggle/workingis relatively fast and can be an alternatives to/tmp, but its capacity is limited to ~20 GB per session, which is sometimes insufficient to host checkpoint of LLMs (~100GB).- An additional fast endpoint for caching has the potential to better utilize the instance’s compute resources (e.g., T4, P100) that are often bottlenecked by disk I/O.
Additional context
I benchmarked sequential I/O and observed both writes and reads to be slower on /tmp (overlay) than on /kaggle/working (host-backed). Write throughput on /tmp is especially unstable; it sometimes gets ~5–10× lower in my tests.
- Lingua principale
- Python
- Stelle
- 2.7k
- Fork
- 1k
- Merge medio
- 5h 55m
- PR unite (30g)
- 1
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di Kaggle/docker-python
-
add python3.11-venv package Apertaenhancement
Difficoltà 2/5 1-3 ore Idoneità per principianti 65/100
Kaggle/docker-python#1482 · 2 reazioni ·
-
ذ Aperta
Difficoltà 5/5 Più di una settimana Idoneità per principianti 1/100
Kaggle/docker-python#1555 ·
-
bug help wanted
Difficoltà 4/5 3-5 giorni Idoneità per principianti 42/100
Kaggle/docker-python#1546 · 4 commenti · 2 reazioni ·
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 25/100
Kaggle/docker-python#1515 ·
-
bug help wanted
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
Kaggle/docker-python#1504 ·
Tutte le issue di Kaggle/docker-python
Issue simili
-
enhancement
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
canonical/paas-charm#368 · 1 commento ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
-
tech debt
Difficoltà 2/5 1-3 ore Idoneità per principianti 75/100
-
addition to tracking list Aperta
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100
StevenBlack/hosts#3256 ·
-
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100
qualcomm/qai-appbuilder#275 ·