Reduce Solr JVM heap to leave room for OS page cache
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 15/100
- issue の種類
- バグ
- 明瞭さ
- 明確に書かれている
- 活発さ
- 停滞
- 技術スタック
- helm, python
- 領域
- infrastructure, search
調査の方向性
The issue says the server-side heap setting lives in the Helm chart, which is outside this repository's scope; it names no chart files or tests to inspect here. Confirm the deployment chart and its memory settings with the maintainers, then verify after deployment using /status?full=true and the listed heap, free-memory, and slow-query metrics.
索引モデルが issue の本文から書いたものです。
説明
Summary
Production /status is reporting a JVM heap that consumes nearly all of the host RAM, leaving the OS page cache too small to hold meaningful portions of the index. This is the most likely root cause of the bimodal latency we are seeing on the v1.5.2 instance:
- p50 = 78 ms (warm path)
- p95 = 4.3 s
- p99 = 42 s
- 12 % of queries classified as "very slow"
Evidence (from /status?full=true)
| Metric | Value |
|---|---|
solr.os.total_physical_memory_bytes |
34,359,738,368 (≈ 32 GiB) |
solr.jvm.heap_max_bytes |
32,212,254,720 (≈ 30 GiB) |
solr.os.free_physical_memory_bytes |
647,168 (≈ 632 KB) |
solr.os.physical_memory_used_pct |
1.0 (100 %) |
solr.size |
142.17 GB |
solr.os.process_cpu_load / system_cpu_load |
0 |
The heap is consuming ~94 % of host RAM. Lucene relies on the OS page cache for index segment access — with a 142 GB index against ~2 GiB of free RAM for filesystem cache, query tail latencies are dominated by disk paging. CPU load reading 0 while latency is high is consistent with I/O wait.
Suggested action (Helm chart)
- Drop the heap (
-Xmx) to ~12–16 GiB. - Increase node memory request/limit so at least 64 GiB (ideally more) is available, leaving ≥ 48 GiB for the OS page cache.
Solr/Lucene operations guidance recommends a small heap and a large filesystem cache for read-heavy workloads. The data-loading/Dockerfile currently sets -m 64G and data-loading/Makefile sets SOLR_MEM=220G — those are loader-side; the server-side setting lives in the Helm chart and is out of scope for this repo.
How to verify after deploy
After the change, hit /status?full=true and confirm:
solr.jvm.heap_max_bytesmatches the new-Xmxsolr.os.free_physical_memory_bytesis in the tens of GiB, not hundreds of KiBrecent_queries.latency_buckets.very_slow_pctdrops from 0.12 toward something close to 0
- 主要言語
- Python
- スター
- 5
- フォーク
- 4
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile または Docker Compose ファイルあり
- プルリクエストのテンプレートなし
- コントリビューションガイドなし
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
NCATSTranslator/NameResolution のほかの issue
-
難易度 5/5 1週間以上 初心者へのやさしさ 35/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 35/100
-
難易度 4/5 3〜5日 初心者へのやさしさ 43/100
-
難易度 3/5 1〜2日 初心者へのやさしさ 66/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
NCATSTranslator/NameResolution の issue をすべて見る
似ている issue
-
難易度 1/5 1時間未満 初心者へのやさしさ 86/100
benchflow-ai/skillsbench#1090 ·
-
Missing unit tests for human-readable date/time formatters in utils/datetime.py対応中かも @prabhleen2317 が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
apache/iceberg-python#4387 ·
メンテナーはふだん 1 日以内に返信
-
[BUG] Hermes MCP adapter drops cwd, extra passthrough keys and the SSE transport when writing config.yaml対応中かも @Parth-Vasave が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
microsoft/apm#3749 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
backend bug
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
NVIDIA/numba-cuda-mlir#467 · コメント 1 件 ·
メンテナーはふだん 3 日以内に返信