pymc-devs/pymc

Compute only dependent logp in step samplers

Open

#7,591 opened on 2024年11月26日

GitHub で見る
 (0 comments) (0 reactions) (0 assignees)Python (7,926 stars) (1,902 forks)batch import
enhancementshelp wantedsamplers

説明

Description

As discussed in: https://discourse.pymc.io/t/semantik-description-of-kruschke-diagrams-model-to-graphviz/16142/8 we could be making more use of the conditional partition of the logp graph for partial step samplers.

When the proposal depends on a ratio between probabilities (BinaryMetropolois, BinaryGibbsMetropolis, CategoricalGibbsMetropolis, Slice, NUTS), we don't need to compute terms that don't depend on the updated variables.

Step samples that explicitly request delta_logp (Metropolis, DEMetropolis) achieve this implicitly via PyTensor rewrites.

I suggest adding a model.dependent_logp(vars) that helps us get the logp we need (the variables of interest + conditional dependent variables)

コントリビューターガイド

技術スタック
python
領域
machine learningperformance
Issue 種別
feature
難度新しい貢献者にとっての実装難度です。1 は非常に小さな変更、5 は専門的な作業です。
4
推定時間経験ある貢献者が調査、実装、テスト、pull request 準備にかけるおおよその時間範囲です。
1-2 days
活動状況Issue が今どれだけ取り組みやすいかを示します。新しい、活発、古い、ブロック中、またはメンテナー入力待ちなどです。
fresh
明確さ期待される変更、受け入れ条件、次の手順がどれだけ明確かを示します。
clear
前提条件
Understanding of PyTensor graphFamiliarity with PyMC step methodsKnowledge of conditional logp
初心者向け度初回貢献者にどれだけ取り組みやすいかを 1-100 で推定したスコアです。
20
調査方針
Examine the current logp computation in PyMC's step samplers, particularly how delta logp is used in Metropolis samplers. Implement a helper function `model.dependent logp(vars)` that computes only the logp of variables that depend on `vars` using the conditional partition of the logp graph. Test with BinaryMetropolis and Slice samplers to ensure correctness. Refer to the discourse discussion at https://discourse.pymc.io/t/semantik description of kruschke diagrams model to graphviz/16142/8 for context.