Non-deterministic pagination in /api/v2/search when rows share the same timestamp
Maintainer antworten meist innerhalb von 1 Tag
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 3/5
- Geschätzter Aufwand
- 1-2 Tage
- Anfängerfreundlichkeit
- 68/100
- Issue-Typ
- Bug
- Klarheit
- Größtenteils klar
- Aktivitätsstatus
- Ruhig
- Tech-Stack
- clickhouse, typescript
Rechercherichtung
Beginne bei der Implementierung des POST /api/v2/search-Endpunkts und verfolge die ClickHouse-Abfrage, die die Timestamp-Sortierung und die LIMIT/OFFSET-Paginierung anwendet. Überprüfe die relevanten Tabelleneinstellungen für _block_number und _block_offset und prüfe anschließend die vorhandenen Tests des Endpunkts oder ergänze eine Testabdeckung für gleiche Timestamps. Als erledigt gilt die Aufgabe, wenn aufeinanderfolgende Seiten eine deterministische Reihenfolge ohne übersprungene oder doppelte Zeilen haben.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
Problem
The POST /api/v2/search endpoint (added in [hyperdxio/hyperdx#2258](https://github.com/hyperdxio/hyperdx/pull/2258)) uses LIMIT/OFFSET pagination with results ordered by Timestamp. When multiple rows share the same timestamp, pagination becomes non-deterministic -- rows near a page boundary can be duplicated or skipped across pages.
Example: If rows 90-110 all have the same Timestamp value and the client requests maxResults=100, offset=0 followed by maxResults=100, offset=100, ClickHouse arbitrarily assigns which rows fall on which page. The client may see some rows twice and miss others entirely.
Why this happens in practice
While Timestamp is DateTime64(9) (nanosecond precision), duplicate timestamps are common in real-world OTEL pipelines:
- Collector-assigned timestamps: When logs arrive at the OTEL collector without a timestamp, the collector assigns one. An entire batch receives the same timestamp.
- Limited source precision: Many language runtimes only produce microsecond or millisecond precision. The remaining digits are zero-padded, reducing the effective keyspace.
- High-throughput services: Multiple log lines from the same flush, HTTP request, or function call naturally share the same wall-clock time.
Adding search predicates reduces the likelihood (fewer matching rows means fewer ties), but the issue is still possible in any high-volume deployment.
Proposed solution
For tables with enable_block_number_column = 1 and enable_block_offset_column = 1 (which ClickStack already enables on otel_logs), add _block_number and _block_offset as tiebreaker columns in the ORDER BY clause:
ORDER BY Timestamp DESC, _block_number DESC, _block_offset DESC
LIMIT {maxResults} OFFSET {offset}
This produces a deterministic total ordering since (_block_number, _block_offset) uniquely identifies each row within a part. The additional columns should have negligible performance impact when using read_in_order.
Alternatives considered
- Cursor-based pagination (filter by
WHERE Timestamp < :last_seen): Avoids offset entirely but still non-deterministic when ties exist at the cursor boundary. Would also require a tiebreaker. - Nanosecond precision alone: Reduces probability but does not eliminate the issue, especially for collector-assigned timestamps.
- Vorherrschende Sprache
- TypeScript
- Sterne
- 10.1k
- Forks
- 527
- Ø Merge
- 1 T. 20 Std.
- Gemergte PRs (30 T.)
- 186
Entwicklungsumgebung
- Enthält ein Dockerfile oder eine Docker-Compose-Datei
- Hat eine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus ClickHouse/ClickStack
-
external
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
ClickHouse/ClickStack#3761 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Metric chart with aggFn increase and a multi-column group-by fails: toString() gets several argumentsEvtl. vergeben @CG-5228 hat das vor 26 Tagen übernommen. Offenexternal
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100
ClickHouse/ClickStack#3477 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
Slack notifications for inline alerts fail when the chart-explorer link passes Slack's 3000-character block limitEvtl. vergeben @Tyagiquamar hat das vor 27 Tagen übernommen. Offenalerting bug external
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100
ClickHouse/ClickStack#3452 ·
Maintainer antworten meist innerhalb von 1 Tag
-
check-alerts worker: 13 error spans (mongodb.create, NamespaceExists) every minute because mongoose autoCreate is still onEvtl. wieder frei Ein Pull Request dazu wurde ohne Merge geschlossen. Offenbug external Needs Feedback
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
ClickHouse/ClickStack#3308 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
count_distinct aggFn on metric tiles ignores valueExpression, always counts distinct metric ValuesEvtl. vergeben @Harshul1484 hat das vor 54 Tagen übernommen. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
ClickHouse/ClickStack#2311 ·
Maintainer antworten meist innerhalb von 1 Tag
Alle Issues in ClickHouse/ClickStack
Ähnliche Issues
-
Add: GTrekkerOffencheck:passed streams:add
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 72/100
Maintainer antworten meist innerhalb von 1 Tag
-
area: ui Bug Payload OSS
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 88/100
payloadcms/payload#19839 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 85/100
Maintainer antworten meist innerhalb von 1 Tag
-
fix(auth): add the email OTP verification step to Pollar loginEvtl. vergeben @akansnoro hat das heute übernommen. OffenStellar Wave
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 74/100
safetrustcr/dApp-SafeTrust#584 · 10 Kommentare ·
Maintainer antworten meist innerhalb von 1 Tag
-
The manager preset saves launch definitions without the required file and digest pairEvtl. vergeben Ein verknüpfter Pull Request ist offen oder bereits gemergt. Offenbug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 80/100
Maintainer antworten meist innerhalb von 1 Tag