Reduce Solr JVM heap to leave room for OS page cache
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 15/100
- Tipo de issue
- Error
- Claridad
- Bien especificado
- Estado de actividad
- Estancado
- Stack tecnológico
- helm, python
- Área
- infrastructure, search
Línea de trabajo
The issue says the server-side heap setting lives in the Helm chart, which is outside this repository's scope; it names no chart files or tests to inspect here. Confirm the deployment chart and its memory settings with the maintainers, then verify after deployment using /status?full=true and the listed heap, free-memory, and slow-query metrics.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Summary
Production /status is reporting a JVM heap that consumes nearly all of the host RAM, leaving the OS page cache too small to hold meaningful portions of the index. This is the most likely root cause of the bimodal latency we are seeing on the v1.5.2 instance:
- p50 = 78 ms (warm path)
- p95 = 4.3 s
- p99 = 42 s
- 12 % of queries classified as "very slow"
Evidence (from /status?full=true)
| Metric | Value |
|---|---|
solr.os.total_physical_memory_bytes |
34,359,738,368 (≈ 32 GiB) |
solr.jvm.heap_max_bytes |
32,212,254,720 (≈ 30 GiB) |
solr.os.free_physical_memory_bytes |
647,168 (≈ 632 KB) |
solr.os.physical_memory_used_pct |
1.0 (100 %) |
solr.size |
142.17 GB |
solr.os.process_cpu_load / system_cpu_load |
0 |
The heap is consuming ~94 % of host RAM. Lucene relies on the OS page cache for index segment access — with a 142 GB index against ~2 GiB of free RAM for filesystem cache, query tail latencies are dominated by disk paging. CPU load reading 0 while latency is high is consistent with I/O wait.
Suggested action (Helm chart)
- Drop the heap (
-Xmx) to ~12–16 GiB. - Increase node memory request/limit so at least 64 GiB (ideally more) is available, leaving ≥ 48 GiB for the OS page cache.
Solr/Lucene operations guidance recommends a small heap and a large filesystem cache for read-heavy workloads. The data-loading/Dockerfile currently sets -m 64G and data-loading/Makefile sets SOLR_MEM=220G — those are loader-side; the server-side setting lives in the Helm chart and is out of scope for this repo.
How to verify after deploy
After the change, hit /status?full=true and confirm:
solr.jvm.heap_max_bytesmatches the new-Xmxsolr.os.free_physical_memory_bytesis in the tens of GiB, not hundreds of KiBrecent_queries.latency_buckets.very_slow_pctdrops from 0.12 toward something close to 0
- Lenguaje dominante
- Python
- Estrellas
- 5
- Forks
- 4
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
- Incluye un Dockerfile o un archivo de Docker Compose
- Sin plantilla de pull request
- Sin guía de contribución
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de NCATSTranslator/NameResolution
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 35/100
-
Dificultad 4/5 3-5 días Aptitud para principiantes 43/100
-
Dificultad 3/5 1-2 días Aptitud para principiantes 66/100
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
Todos los issues de NCATSTranslator/NameResolution
Issues similares
-
Dificultad 1/5 Menos de una hora Aptitud para principiantes 86/100
benchflow-ai/skillsbench#1090 ·
-
Missing unit tests for human-readable date/time formatters in utils/datetime.pyPosiblemente ocupada @prabhleen2317 la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
apache/iceberg-python#4387 ·
Los mantenedores suelen responder en 1 día
-
[BUG] Hermes MCP adapter drops cwd, extra passthrough keys and the SSE transport when writing config.yamlPosiblemente ocupada @Parth-Vasave la tomó hoy. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
microsoft/apm#3749 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
backend bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
NVIDIA/numba-cuda-mlir#467 · 1 comentario ·
Los mantenedores suelen responder en 3 días