Reduce Solr JVM heap to leave room for OS page cache
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 15/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Đặc tả rõ ràng
- Mức độ hoạt động
- Đình trệ
- Công nghệ
- helm, python
- Lĩnh vực
- infrastructure, search
Hướng nghiên cứu
The issue says the server-side heap setting lives in the Helm chart, which is outside this repository's scope; it names no chart files or tests to inspect here. Confirm the deployment chart and its memory settings with the maintainers, then verify after deployment using /status?full=true and the listed heap, free-memory, and slow-query metrics.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Summary
Production /status is reporting a JVM heap that consumes nearly all of the host RAM, leaving the OS page cache too small to hold meaningful portions of the index. This is the most likely root cause of the bimodal latency we are seeing on the v1.5.2 instance:
- p50 = 78 ms (warm path)
- p95 = 4.3 s
- p99 = 42 s
- 12 % of queries classified as "very slow"
Evidence (from /status?full=true)
| Metric | Value |
|---|---|
solr.os.total_physical_memory_bytes |
34,359,738,368 (≈ 32 GiB) |
solr.jvm.heap_max_bytes |
32,212,254,720 (≈ 30 GiB) |
solr.os.free_physical_memory_bytes |
647,168 (≈ 632 KB) |
solr.os.physical_memory_used_pct |
1.0 (100 %) |
solr.size |
142.17 GB |
solr.os.process_cpu_load / system_cpu_load |
0 |
The heap is consuming ~94 % of host RAM. Lucene relies on the OS page cache for index segment access — with a 142 GB index against ~2 GiB of free RAM for filesystem cache, query tail latencies are dominated by disk paging. CPU load reading 0 while latency is high is consistent with I/O wait.
Suggested action (Helm chart)
- Drop the heap (
-Xmx) to ~12–16 GiB. - Increase node memory request/limit so at least 64 GiB (ideally more) is available, leaving ≥ 48 GiB for the OS page cache.
Solr/Lucene operations guidance recommends a small heap and a large filesystem cache for read-heavy workloads. The data-loading/Dockerfile currently sets -m 64G and data-loading/Makefile sets SOLR_MEM=220G — those are loader-side; the server-side setting lives in the Helm chart and is out of scope for this repo.
How to verify after deploy
After the change, hit /status?full=true and confirm:
solr.jvm.heap_max_bytesmatches the new-Xmxsolr.os.free_physical_memory_bytesis in the tens of GiB, not hundreds of KiBrecent_queries.latency_buckets.very_slow_pctdrops from 0.12 toward something close to 0
- Ngôn ngữ chính
- Python
- Star
- 5
- Fork
- 4
- Chỉ số merge pull request
- Không có pull request nào được merge trong 30 ngày
Chuẩn bị môi trường
- Có Dockerfile hoặc tệp Docker Compose
- Không có mẫu pull request
- Không có hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của NCATSTranslator/NameResolution
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 35/100
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 43/100
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 66/100
-
Độ khó 5/5 Hơn một tuần Mức phù hợp với người mới 25/100
Tất cả issue của NCATSTranslator/NameResolution
Issue tương tự
-
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 86/100
benchflow-ai/skillsbench#1090 ·
-
Missing unit tests for human-readable date/time formatters in utils/datetime.pyCó thể đã có người làm @prabhleen2317 đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
apache/iceberg-python#4387 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
[BUG] Hermes MCP adapter drops cwd, extra passthrough keys and the SSE transport when writing config.yamlCó thể đã có người làm @Parth-Vasave đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 76/100
microsoft/apm#3749 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
backend bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
NVIDIA/numba-cuda-mlir#467 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 3 ngày