Additional ext4-backed mount point for high-throughput I/O caching (besides `/kaggle/working`)
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức phù hợp với người mới
- 25/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- docker, linux
- Lĩnh vực
- infrastructure, operating-systems
Hướng nghiên cứu
Bắt đầu bằng việc xem xét benchmark I/O của issue và cấu hình mount container hiện có; báo cáo không nêu tên tệp triển khai hoặc bài kiểm thử nào. Xác định mount ext4 bổ sung được hỗ trợ bởi thiết bị vật lý tách biệt với /kaggle/working, sau đó xác minh rằng nó cung cấp một đường dẫn cache lớn hơn và nhanh hơn mà không thay đổi hành vi mount hiện có.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
🚀 Feature
Provide an additional mount point backed by a physical device (ext4), separate from /kaggle/working, to use as a high-throughput I/O cache (e.g., /tmp).
Motivation
- The container root (
/) appears to be provided via an overlay filesystem; write/metadata performance on overlay can be slower or less predictable than on a host-backed volume such as/kaggle/working. - Some applications default to
/tmpfor I/O-intensive caches; on overlay this default can become an I/O bottleneck. /kaggle/workingis relatively fast and can be an alternatives to/tmp, but its capacity is limited to ~20 GB per session, which is sometimes insufficient to host checkpoint of LLMs (~100GB).- An additional fast endpoint for caching has the potential to better utilize the instance’s compute resources (e.g., T4, P100) that are often bottlenecked by disk I/O.
Additional context
I benchmarked sequential I/O and observed both writes and reads to be slower on /tmp (overlay) than on /kaggle/working (host-backed). Write throughput on /tmp is especially unstable; it sometimes gets ~5–10× lower in my tests.
- Ngôn ngữ chính
- Python
- Star
- 2.7k
- Fork
- 1k
- Merge trung bình
- 5 giờ 55 phút
- Pull request đã merge (30 ngày)
- 1
Hướng dẫn đóng góp
Chưa lập chỉ mục được hướng dẫn đóng góp cho kho mã nguồn này
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Kaggle/docker-python
-
add python3.11-venv package Đang mởenhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
Kaggle/docker-python#1482 · 2 reaction ·
-
ذ Đang mở
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 1/100
Kaggle/docker-python#1555 ·
-
bug help wanted
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 42/100
Kaggle/docker-python#1546 · 4 bình luận · 2 reaction ·
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 25/100
Kaggle/docker-python#1515 ·
-
bug help wanted
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 35/100
Kaggle/docker-python#1504 ·
Tất cả issue của Kaggle/docker-python
Issue tương tự
-
bug confirmed issue
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
open-webui/open-webui#30750 · 1 bình luận ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
-
enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
OpenwaterHealth/openmotion-bloodflow-app#604 · 1 bình luận ·
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
-
good first issue
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 90/100