Kernel wishlist: categorical variants and other useful kernels

オープン
#8 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
5/5
見積もり時間
1週間以上
初心者へのやさしさ
25/100
issue の種類
機能追加
明瞭さ
説明が足りない
活発さ
静か
技術スタック
python

調査の方向性

ファイル、テスト、実装のエントリーポイントは指定されていません。まず候補となるカテゴリカルまたは連続カーネルを1つに絞り込み、次に既存のカーネル実装を確認して、想定されるパラメータ化とバリデーションを明確にします。具体的なカーネルが、合意された実装範囲とともに選定されていれば完了とします。

索引モデルが issue の本文から書いたものです。

説明

roadmap

Collecting ideas for new kernels. ptgp currently ships:

Stationary: ExpQuad, Matern52, Matern32, Matern12
Categorical: Overlap, LowRankCategorical
Non-stationary: RandomWalk, Gibbs, WarpedInput

Categorical kernels

There's a lot of room to grow here. Some ideas:

  • FullCategorical — a full-rank PSD level covariance matrix, parameterized via pm.LKJCholeskyCov or a user-supplied PSD matrix. Proper LKJ prior on the level correlation structure.
  • LowRankCategorical identifiability fixes — the current eta**2 * LowRankCategorical(W, kappa) has a scalar non-identifiability (eta and W/kappa can trade scale). Diagonal normalization (force unit diagonal on B, delegate all amplitude to eta) is the intended structural fix.
  • GroupedCategorical — sum or product of per-column ICM kernels for rows with multiple categorical features (e.g. country, device type, experiment arm). Mostly sugar over composing LowRankCategorical instances, but the parameter setup gets repetitive without it.
  • HierarchicalCategorical — for nested categorical columns (country > region > city). Covariance is a sum where each level's contribution is gated by shared ancestry. Sharing across related groups regularizes sparse leaves.

Continuous kernels

What other continuous kernels would be useful? Some starting points:

  • Periodic / locally periodic
  • Spectral mixture
  • Polynomial
  • Linear
  • Changepoint / switching kernels
  • Rational quadratic

Open questions

  • What other kernels are people using that would be worth adding?
  • Are there kernels that would be useful but are tricky to implement or experiment with?
主要言語
Jupyter Notebook
スター
15
フォーク
5
平均マージ
2日 10時間
マージ済み PR(30日)
5

環境構築

このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

pymc-devs/ptgp のほかの issue

pymc-devs/ptgp の issue をすべて見る

似ている issue

Machine Learning の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。