Enable nvme-ephemeral volumes in the data-loading namespace
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 48/100
- Loại issue
- Tính năng
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- kubernetes
- Lĩnh vực
- infrastructure
Hướng nghiên cứu
Start by reading the Kubernetes manifests in data-loading/kubernetes/ and the NVMe version linked in pull request #281. Check how the data-loading namespace permits storage classes and ephemeral volume claims, and verify that a 600Gi request fits the pod's node resources. Done when the loading pod can use nvme-ephemeral for /var/solr while data/ remains on its persistent PVC.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
What we need
The Kubernetes namespace we run the data-loading job in cannot currently create a
generic ephemeral volume
with storageClassName: nvme-ephemeral. We would like it to, so that a NameRes data
load can put its Solr index on node-local NVMe.
(Exact error from kubectl describe pod nameres-loading to be pasted in — it looks
like the namespace is not set up for this storage class, either because the class is
not offered to it or because there is no quota for ephemeral volume claims.)
Why
Building a NameRes backup is, in order: download (network), index (CPU), merge (disk),
optimize (disk), compress (CPU). After the parallelisation work in #278, the two
disk-bound phases dominate — optimize=true alone reads ~130G and writes ~130G in a
single forced merge. Both PVCs currently use storageClassName: basic, so the index
lives on network storage, and no amount of tuning in the Makefile substitutes for the
volume being fast.
Node-local NVMe is the single biggest remaining lever on how long a load takes.
Why ephemeral specifically, and why only one of the two volumes
The loading pod mounts two volumes, and they want opposite things:
/var/solr, the index. Takes the entire write load of the indexing run and then
the read-and-write of the optimize, so it benefits most from being fast. It is also
pure intermediate state: oncesnapshot.backup.tar.gzexists the index is worthless,
and if it were lost it could be rebuilt from the synonym files sitting on the other
volume. This is the one we want on NVMe, and ephemeral is the honest lifetime for it.data/, the working directory. Holds the ~130G download and the finished backup
tarball — the only thing the whole exercise produces. Stays on a persistent PVC.
Sizing
The request is 400Gi, which needs to fit on a single node's local NVMe alongside
the pod's other resources (currently 32 CPU / 128Gi).
400Gi is not padding: optimize=true writes the new single segment before deleting the
old ones, so peak usage is 2–3x the finished index, and the index is ~127Gi today. It
cannot go much below roughly 2x without the optimize step running out of space.
Status
data-loading/kubernetes/ currently uses the ordinary nameres-loading-solr PVC, so
loads work today — just slower through the merge and optimize phases. The NVMe version is ready and waiting in #281, which should not be merged until
this is sorted out.
The request there is 600Gi, not the 400Gi originally sketched: the finished index
grows with each Babel release, and peak usage during the optimize is 2-3x it.
- Ngôn ngữ chính
- Python
- Star
- 5
- Fork
- 4
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Chuẩn bị môi trường
- Có Dockerfile hoặc tệp Docker Compose
- Không có mẫu pull request
- Không có hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của NCATSTranslator/NameResolution
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 43/100
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 66/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
Tất cả issue của NCATSTranslator/NameResolution
Issue tương tự
-
cognition facet:consolidation memory ready size:S
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
Maintainer thường phản hồi trong vòng 1 ngày
-
proposal
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 68/100
j3ko/agent-plugins#29 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 80/100
-
area:cli area:security bug priority:medium
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
rtk-ai/rtk#5127 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 74/100
Gathin23/cleanyourtv#4026 ·
Maintainer thường phản hồi trong vòng 1 ngày