Non-deterministic pagination in /api/v2/search when rows share the same timestamp
Les mainteneurs répondent en général sous 1 jour
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Accessibilité débutants
- 68/100
- Type d'issue
- Bug
- Clarté
- Plutôt claire
- Activité
- Calme
- Stack technique
- clickhouse, typescript
Piste de recherche
Commencez par l’implémentation de l’endpoint POST /api/v2/search et suivez la requête ClickHouse qui applique le tri par Timestamp et la pagination LIMIT/OFFSET. Vérifiez les paramètres pertinents de la table pour _block_number et _block_offset, puis examinez les tests existants de l’endpoint ou ajoutez une couverture pour les timestamps égaux. Le travail est terminé lorsque les pages consécutives présentent un ordre déterministe, sans lignes ignorées ni dupliquées.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
Problem
The POST /api/v2/search endpoint (added in [hyperdxio/hyperdx#2258](https://github.com/hyperdxio/hyperdx/pull/2258)) uses LIMIT/OFFSET pagination with results ordered by Timestamp. When multiple rows share the same timestamp, pagination becomes non-deterministic -- rows near a page boundary can be duplicated or skipped across pages.
Example: If rows 90-110 all have the same Timestamp value and the client requests maxResults=100, offset=0 followed by maxResults=100, offset=100, ClickHouse arbitrarily assigns which rows fall on which page. The client may see some rows twice and miss others entirely.
Why this happens in practice
While Timestamp is DateTime64(9) (nanosecond precision), duplicate timestamps are common in real-world OTEL pipelines:
- Collector-assigned timestamps: When logs arrive at the OTEL collector without a timestamp, the collector assigns one. An entire batch receives the same timestamp.
- Limited source precision: Many language runtimes only produce microsecond or millisecond precision. The remaining digits are zero-padded, reducing the effective keyspace.
- High-throughput services: Multiple log lines from the same flush, HTTP request, or function call naturally share the same wall-clock time.
Adding search predicates reduces the likelihood (fewer matching rows means fewer ties), but the issue is still possible in any high-volume deployment.
Proposed solution
For tables with enable_block_number_column = 1 and enable_block_offset_column = 1 (which ClickStack already enables on otel_logs), add _block_number and _block_offset as tiebreaker columns in the ORDER BY clause:
ORDER BY Timestamp DESC, _block_number DESC, _block_offset DESC
LIMIT {maxResults} OFFSET {offset}
This produces a deterministic total ordering since (_block_number, _block_offset) uniquely identifies each row within a part. The additional columns should have negligible performance impact when using read_in_order.
Alternatives considered
- Cursor-based pagination (filter by
WHERE Timestamp < :last_seen): Avoids offset entirely but still non-deterministic when ties exist at the cursor boundary. Would also require a tiebreaker. - Nanosecond precision alone: Reduces probability but does not eliminate the issue, especially for collector-assigned timestamps.
- Langage dominant
- TypeScript
- Étoiles
- 10.1k
- Forks
- 527
- Merge moyen
- 1 j 20 h
- PR mergées (30 j)
- 186
Préparer son environnement
- Fournit un Dockerfile ou un fichier Docker Compose
- Propose un modèle de pull request
- Lire le guide de contribution
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de ClickHouse/ClickStack
-
external
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
ClickHouse/ClickStack#3761 ·
Les mainteneurs répondent en général sous 1 jour
-
Metric chart with aggFn increase and a multi-column group-by fails: toString() gets several argumentsPeut-être pris @CG-5228 l’a pris il y a 26 jours. Ouverteexternal
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
ClickHouse/ClickStack#3477 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour
-
Slack notifications for inline alerts fail when the chart-explorer link passes Slack's 3000-character block limitPeut-être pris @Tyagiquamar l’a pris il y a 27 jours. Ouvertealerting bug external
Difficulté 2/5 1-3 heures Accessibilité débutants 76/100
ClickHouse/ClickStack#3452 ·
Les mainteneurs répondent en général sous 1 jour
-
check-alerts worker: 13 error spans (mongodb.create, NamespaceExists) every minute because mongoose autoCreate is still onPeut-être à nouveau libre Une pull request pour cette issue a été fermée sans être fusionnée. Ouvertebug external Needs Feedback
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
ClickHouse/ClickStack#3308 · 1 commentaire ·
Les mainteneurs répondent en général sous 1 jour
-
count_distinct aggFn on metric tiles ignores valueExpression, always counts distinct metric ValuesPeut-être pris @Harshul1484 l’a pris il y a 54 jours. Ouverte
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
ClickHouse/ClickStack#2311 ·
Les mainteneurs répondent en général sous 1 jour
Toutes les issues de ClickHouse/ClickStack
Issues similaires
-
Add: GTrekkerOuvertecheck:passed streams:add
Difficulté 1/5 Moins d'une heure Accessibilité débutants 72/100
Les mainteneurs répondent en général sous 1 jour
-
area: ui Bug Payload OSS
Difficulté 1/5 Moins d'une heure Accessibilité débutants 88/100
payloadcms/payload#19839 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 85/100
Les mainteneurs répondent en général sous 1 jour
-
fix(auth): add the email OTP verification step to Pollar loginPeut-être pris @akansnoro l’a pris aujourd’hui. OuverteStellar Wave
Difficulté 2/5 1-3 heures Accessibilité débutants 74/100
safetrustcr/dApp-SafeTrust#584 · 10 commentaires ·
Les mainteneurs répondent en général sous 1 jour
-
The manager preset saves launch definitions without the required file and digest pairPeut-être pris Une pull request liée à cette issue est ouverte ou déjà fusionnée. Ouvertebug
Difficulté 2/5 1-3 heures Accessibilité débutants 80/100
Les mainteneurs répondent en général sous 1 jour