Materialized views for cumulative metrics (counter increase/rate, histograms)
Maintainer antworten meist innerhalb von 1 Tag
Dieses Issue hat noch niemand übernommen.
Bewertung
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Anfängerfreundlichkeit
- 35/100
- Issue-Typ
- Feature
- Klarheit
- Größtenteils klar
- Aktivitätsstatus
- Aktiv
- Tech-Stack
- clickhouse, typescript
- Bereich
- databases, observability
Rechercherichtung
Start with the existing gauge materialized view work in #3482 and the histogram handling in core/histogram.ts. Trace how cumulative Sum and histogram series compute per-series deltas before aggregation, then assess how a refreshable materialized view could preserve reset handling and histogram bounds. Done means defining and implementing a supported rollup shape for counters and histograms, with corresponding query and alert behavior.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Beschreibung
What are you trying to do?
Make counter-rate and histogram-quantile charts fast over long ranges, for example increase of an Istio request counter grouped by response code over 24 h. On our deployment (@hyperdx/app 2.42.0, about 4.7 B metric rows per day) that panel takes 6–7 s and reads 52 GiB. Most of the cost is the per-series step: the chart keys each series on cityHash64(ScopeAttributes, ResourceAttributes, Attributes) and computes deltas with lagInFrame over it, so it reads both full Maps whatever the filter. Materialized columns can't help.
What would you like to see?
Materialized view support for cumulative metrics: Sum (counters) and histograms. It's related to #3482 (gauges), but it needs a different shape, because today the delta is computed per series before aggregation:
- Sum:
IF(AggregationTemporality = 1, Value, greatest(Value - lagInFrame(Value) OVER (PARTITION BY AttributesHash ORDER BY TimeUnix), 0)) - Histogram: per-series, per-bounds deltas of
Count/BucketCounts(core/histogram.ts)
So a rollup can't just aggregate Value. One shape that works for us: a view (likely a refreshable MV) that stores, per time bucket and per group, the sum of per-series increases. For histograms, it would store summed per-bucket count deltas with the same ExplicitBounds. HyperDX would read increase / rate from that column as a plain sum per bucket (rate = sum / bucket seconds), and derive quantiles from the summed bucket counts. We'd like your view on:
- how such a view should be declared on the source: a "pre-computed delta" column type next to the
aggFnmappings; - reset handling: the rollup would do the same
greatest(..., 0)/ reset logic once, at write time; - whether refreshable MVs (
REFRESH EVERY 1 MINUTE) are acceptable as the producer, since an incremental MV can't see the previous point of a series.
Alternatives you've considered
Raw-SQL tiles over our own counter-rate rollup. It works (milliseconds instead of seconds), but each panel is hand-written SQL, and alerts need the SQL path.
Anything else?
Happy to test a branch.
- Vorherrschende Sprache
- TypeScript
- Sterne
- 10.1k
- Forks
- 527
- Ø Merge
- 1 T. 20 Std.
- Gemergte PRs (30 T.)
- 186
Entwicklungsumgebung
- Enthält ein Dockerfile oder eine Docker-Compose-Datei
- Hat eine Pull-Request-Vorlage
- Beitragsleitfaden lesen
Erste Schritte
- Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
- Forken Sie das Repository und arbeiten Sie in einem Branch.
- Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.
Mehr aus ClickHouse/ClickStack
-
external
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
ClickHouse/ClickStack#3761 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Metric chart with aggFn increase and a multi-column group-by fails: toString() gets several argumentsEvtl. vergeben @CG-5228 hat das vor 26 Tagen übernommen. Offenexternal
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100
ClickHouse/ClickStack#3477 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
Slack notifications for inline alerts fail when the chart-explorer link passes Slack's 3000-character block limitEvtl. vergeben @Tyagiquamar hat das vor 27 Tagen übernommen. Offenalerting bug external
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 76/100
ClickHouse/ClickStack#3452 ·
Maintainer antworten meist innerhalb von 1 Tag
-
check-alerts worker: 13 error spans (mongodb.create, NamespaceExists) every minute because mongoose autoCreate is still onEvtl. wieder frei Ein Pull Request dazu wurde ohne Merge geschlossen. Offenbug external Needs Feedback
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
ClickHouse/ClickStack#3308 · 1 Kommentar ·
Maintainer antworten meist innerhalb von 1 Tag
-
count_distinct aggFn on metric tiles ignores valueExpression, always counts distinct metric ValuesEvtl. vergeben @Harshul1484 hat das vor 54 Tagen übernommen. Offen
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 72/100
ClickHouse/ClickStack#2311 ·
Maintainer antworten meist innerhalb von 1 Tag
Alle Issues in ClickHouse/ClickStack
Ähnliche Issues
-
Add: GTrekkerOffencheck:passed streams:add
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 72/100
Maintainer antworten meist innerhalb von 1 Tag
-
area: ui Bug Payload OSS
Schwierigkeit 1/5 Unter einer Stunde Anfängerfreundlichkeit 88/100
payloadcms/payload#19839 ·
Maintainer antworten meist innerhalb von 1 Tag
-
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 85/100
Maintainer antworten meist innerhalb von 1 Tag
-
fix(auth): add the email OTP verification step to Pollar loginEvtl. vergeben @akansnoro hat das heute übernommen. OffenStellar Wave
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 74/100
safetrustcr/dApp-SafeTrust#584 · 10 Kommentare ·
Maintainer antworten meist innerhalb von 1 Tag
-
The manager preset saves launch definitions without the required file and digest pairEvtl. vergeben Ein verknüpfter Pull Request ist offen oder bereits gemergt. Offenbug
Schwierigkeit 2/5 1-3 Stunden Anfängerfreundlichkeit 80/100
Maintainer antworten meist innerhalb von 1 Tag