`Weibull` and `Gumbel` `survival_function` / `log_survival_function` are 0 / -inf in the upper tail
まだ誰も着手していません。
評価
調査の方向性
Start in tensorflow_probability/python/distributions/weibull.py and gumbel.py, where survival_function, log_survival_function and log_cdf fall back to 1 - cdf and log1p(-cdf) after the cdf rounds to 1. Read the issue's reproduction snippet and run it in the upper tail to confirm 0 and -inf. Done means the Weibull and Gumbel values match the exact closed forms in the issue, with tests for the tail values added. Confirm the Gumbel gradient path depends on #2041 before deciding whether to include the other distributions.
索引モデルが issue の本文から書いたものです。
説明
Another one from the same comparison as #2041 :) In float32, tfd.Weibull(5., 1.).survival_function(2.) is exactly 0 and log_survival_function(2.) is -inf, where the true values are exp(-32) ≈ 1.27e-14 and -32. Gumbel has the same problem in its upper tail, and its log_cdf is -inf from about z = -4.5 down.
import tensorflow_probability as tfp
tfd = tfp.distributions
w = tfd.Weibull(concentration=5., scale=1.)
print(w.survival_function(2.).numpy()) # 0.0 exact exp(-32) = 1.27e-14
print(w.log_survival_function([1., 1.5, 2.]).numpy()) # [-1. -7.593729 -inf] exact -x**5: [-1, -7.59375, -32]
g = tfd.Gumbel(loc=0., scale=1.)
print(g.survival_function(20.).numpy()) # 0.0 exact 2.06e-09
print(g.log_survival_function(20.).numpy()) # -inf exact -20.0
print(g.log_cdf(-5.).numpy()) # -inf exact -exp(5) = -148.41
Both are a Uniform pushed through an inverted CDF bijector, and Uniform only defines _cdf, so these fall back to 1. - cdf and log1p(-cdf) after the cdf has already rounded to 1. The closed forms are one line each:
--- a/tensorflow_probability/python/distributions/weibull.py
+++ b/tensorflow_probability/python/distributions/weibull.py
def _log_prob(self, x):
return self._weibull_bijector.forward_log_det_jacobian(x, event_ndims=0)
+ def _log_survival_function(self, x):
+ return -(x / self.scale)**self.concentration
+
+ def _survival_function(self, x):
+ return tf.exp(self._log_survival_function(x))
+
--- a/tensorflow_probability/python/distributions/gumbel.py
+++ b/tensorflow_probability/python/distributions/gumbel.py
+ def _log_cdf(self, x):
+ return -tf.exp(-(x - self.loc) / self.scale)
+
+ def _log_survival_function(self, x):
+ return generic.log1mexp(tf.exp(-(x - self.loc) / self.scale))
+
+ def _survival_function(self, x):
+ return -tf.math.expm1(-tf.exp(-(x - self.loc) / self.scale))
The Gumbel log_survival_function goes through log1mexp, so its gradient past z = 17 also needs the fix in #2041.
Checked on 0.25.0 and tfp-nightly 0.26.0.dev20261112, CPU; main has the same code. GeneralizedExtremeValue, Moyal and Kumaraswamy are built the same way and also return 0, e.g. GeneralizedExtremeValue(0., 1., 0.1).survival_function(50.) is 0 where the exact value is 1.65e-8. Should those go in the same PR, or just these two to start?
- 主要言語
- Jupyter Notebook
- スター
- 4.4k
- フォーク
- 1.1k
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
tensorflow/probability のほかの issue
-
`tfp.math.log1mexp` has a NaN gradient for small inputs (reaches `OrderedLogistic.log_prob`)対応中かも @aviralgarg05 が 1 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 86/100
tensorflow/probability#2041 · コメント 1 件 ·
-
KL divergence between two `TransformedDistribution`s with a shared non-injective bijector (`AbsoluteValue`) returns the base KL対応中かも @Andreas-Hum が 19 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
tensorflow/probability#2036 ·
-
Chi2, Gamma, Beta and Binomial survival_function lose the upper tail because they fall back to 1 - cdf対応中かも このイシューにリンクされたプルリクエストがオープン中、またはマージ済みです。 オープン
難易度 4/5 3〜5日 初心者へのやさしさ 54/100
tensorflow/probability#2040 · コメント 1 件 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 68/100
tensorflow/probability#2034 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 35/100
tensorflow/probability#2021 ·
tensorflow/probability の issue をすべて見る
似ている issue
-
priority:P2
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
osmlab/name-suggestion-index#13165 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 64/100
メンテナーはふだん 1 日以内に返信
-
approved-for-pr area: extraction bug effort: S P2
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
hydra-db/selfgraph#343 · コメント 2 件 ·
メンテナーはふだん 1 日以内に返信
-
automated endpoint-dead needs-curation
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
almanac-data/climate-almanac#139 ·
メンテナーはふだん 1 日以内に返信