unit8co/darts

Improve numerical stability of the NLL computation for some distributions

Open

#621 opened on 2021年12月1日

GitHub で見る
 (0 comments) (0 reactions) (0 assignees)Python (762 forks)batch import
good first issueimprovement

Repository metrics

Stars
 (6,832 stars)
PR merge metrics
 (平均マージ 143d 16h) (30d で 16 merged PRs)

説明

Not all Likelihoods have numerically-stable computaiton of the NLL. By default, we rely on the log_prob() function of the PyTorch Distribution objects, but it might not be the best way to get numerically stable gradients. I think it’s fairly easy to build cases where Negative Binomial fails for instance.

See: #663

Also for the Weibull distribution, the outputs changed when we changed the shape of the network outputs, which is weird and ideally should be investigated. Not clear if that’s due to numerical instability…

コントリビューターガイド

調査方針
Negative Binomial分布とWeibull分布のlog probの数値的安定性を調査します。極端な値のテストケースを作成し、勾配を比較します。
技術スタック
pythonpytorch
領域
machine learning
Issue 種別
バグ
難度新しい貢献者にとっての実装難度です。1 は非常に小さな変更、5 は専門的な作業です。
3
推定時間経験ある貢献者が調査、実装、テスト、pull request 準備にかけるおおよその時間範囲です。
1-2日
活動状況Issue が今どれだけ取り組みやすいかを示します。新しい、活発、古い、ブロック中、またはメンテナー入力待ちなどです。
新着
明確さ期待される変更、受け入れ条件、次の手順がどれだけ明確かを示します。
調査が必要
前提条件
PythonPyTorch
初心者向け度初回貢献者にどれだけ取り組みやすいかを 1-100 で推定したスコアです。
30