Non-deterministic pagination in /api/v2/search when rows share the same timestamp
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 3/5
- Tempo stimato
- 1-2 giorni
- Idoneità per principianti
- 68/100
- Tipo di issue
- Bug
- Chiarezza
- Abbastanza chiara
- Stato di attività
- Tranquilla
- Stack tecnologico
- clickhouse, typescript
Direzione di ricerca
Inizia dall’implementazione dell’endpoint POST /api/v2/search e segui la query ClickHouse che applica l’ordinamento per Timestamp e la paginazione LIMIT/OFFSET. Verifica le impostazioni rilevanti della tabella per _block_number e _block_offset, quindi controlla i test esistenti dell’endpoint oppure aggiungi una copertura per i timestamp uguali. Il lavoro è completato quando le pagine consecutive hanno un ordinamento deterministico senza righe saltate o duplicate.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Problem
The POST /api/v2/search endpoint (added in [hyperdxio/hyperdx#2258](https://github.com/hyperdxio/hyperdx/pull/2258)) uses LIMIT/OFFSET pagination with results ordered by Timestamp. When multiple rows share the same timestamp, pagination becomes non-deterministic -- rows near a page boundary can be duplicated or skipped across pages.
Example: If rows 90-110 all have the same Timestamp value and the client requests maxResults=100, offset=0 followed by maxResults=100, offset=100, ClickHouse arbitrarily assigns which rows fall on which page. The client may see some rows twice and miss others entirely.
Why this happens in practice
While Timestamp is DateTime64(9) (nanosecond precision), duplicate timestamps are common in real-world OTEL pipelines:
- Collector-assigned timestamps: When logs arrive at the OTEL collector without a timestamp, the collector assigns one. An entire batch receives the same timestamp.
- Limited source precision: Many language runtimes only produce microsecond or millisecond precision. The remaining digits are zero-padded, reducing the effective keyspace.
- High-throughput services: Multiple log lines from the same flush, HTTP request, or function call naturally share the same wall-clock time.
Adding search predicates reduces the likelihood (fewer matching rows means fewer ties), but the issue is still possible in any high-volume deployment.
Proposed solution
For tables with enable_block_number_column = 1 and enable_block_offset_column = 1 (which ClickStack already enables on otel_logs), add _block_number and _block_offset as tiebreaker columns in the ORDER BY clause:
ORDER BY Timestamp DESC, _block_number DESC, _block_offset DESC
LIMIT {maxResults} OFFSET {offset}
This produces a deterministic total ordering since (_block_number, _block_offset) uniquely identifies each row within a part. The additional columns should have negligible performance impact when using read_in_order.
Alternatives considered
- Cursor-based pagination (filter by
WHERE Timestamp < :last_seen): Avoids offset entirely but still non-deterministic when ties exist at the cursor boundary. Would also require a tiebreaker. - Nanosecond precision alone: Reduces probability but does not eliminate the issue, especially for collector-assigned timestamps.
- Lingua principale
- TypeScript
- Stelle
- 10.1k
- Fork
- 527
- Merge medio
- 1g 20h
- PR unite (30g)
- 186
Preparare l'ambiente
- Include un Dockerfile o un file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di ClickHouse/ClickStack
-
external
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
ClickHouse/ClickStack#3761 ·
I maintainer di solito rispondono entro 1 giorno
-
Metric chart with aggFn increase and a multi-column group-by fails: toString() gets several argumentsForse già presa @CG-5228 l’ha presa 26 giorni fa. Apertaexternal
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
ClickHouse/ClickStack#3477 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Slack notifications for inline alerts fail when the chart-explorer link passes Slack's 3000-character block limitForse già presa @Tyagiquamar l’ha presa 27 giorni fa. Apertaalerting bug external
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
ClickHouse/ClickStack#3452 ·
I maintainer di solito rispondono entro 1 giorno
-
check-alerts worker: 13 error spans (mongodb.create, NamespaceExists) every minute because mongoose autoCreate is still onForse di nuovo libera Una pull request per questa issue è stata chiusa senza essere unita. Apertabug external Needs Feedback
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
ClickHouse/ClickStack#3308 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
count_distinct aggFn on metric tiles ignores valueExpression, always counts distinct metric ValuesForse già presa @Harshul1484 l’ha presa 54 giorni fa. Aperta
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
ClickHouse/ClickStack#2311 ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di ClickHouse/ClickStack
Issue simili
-
Add: GTrekkerApertacheck:passed streams:add
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 72/100
I maintainer di solito rispondono entro 1 giorno
-
area: ui Bug Payload OSS
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 88/100
payloadcms/payload#19839 ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 85/100
I maintainer di solito rispondono entro 1 giorno
-
fix(auth): add the email OTP verification step to Pollar loginForse già presa @akansnoro l’ha presa oggi. ApertaStellar Wave
Difficoltà 2/5 1-3 ore Idoneità per principianti 74/100
safetrustcr/dApp-SafeTrust#584 · 10 commenti ·
I maintainer di solito rispondono entro 1 giorno
-
The manager preset saves launch definitions without the required file and digest pairForse già presa Una pull request collegata a questa issue è aperta o già unita. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 80/100
I maintainer di solito rispondono entro 1 giorno