Kernel wishlist: categorical variants and other useful kernels

Aperta
#8 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
25/100
Tipo di issue
Funzionalità
Chiarezza
Da chiarire
Stato di attività
Tranquilla
Stack tecnologico
python

Direzione di ricerca

Non sono indicati file, test o punti di ingresso dell’implementazione. Inizia restringendo la lista dei desideri a un kernel categorico o continuo proposto, quindi esamina le implementazioni dei kernel esistenti e determina la parametrizzazione e la validazione previste. Il lavoro sarà considerato completato quando sarà stato selezionato un kernel specifico con un ambito di implementazione concordato.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

roadmap

Collecting ideas for new kernels. ptgp currently ships:

Stationary: ExpQuad, Matern52, Matern32, Matern12
Categorical: Overlap, LowRankCategorical
Non-stationary: RandomWalk, Gibbs, WarpedInput

Categorical kernels

There's a lot of room to grow here. Some ideas:

  • FullCategorical — a full-rank PSD level covariance matrix, parameterized via pm.LKJCholeskyCov or a user-supplied PSD matrix. Proper LKJ prior on the level correlation structure.
  • LowRankCategorical identifiability fixes — the current eta**2 * LowRankCategorical(W, kappa) has a scalar non-identifiability (eta and W/kappa can trade scale). Diagonal normalization (force unit diagonal on B, delegate all amplitude to eta) is the intended structural fix.
  • GroupedCategorical — sum or product of per-column ICM kernels for rows with multiple categorical features (e.g. country, device type, experiment arm). Mostly sugar over composing LowRankCategorical instances, but the parameter setup gets repetitive without it.
  • HierarchicalCategorical — for nested categorical columns (country > region > city). Covariance is a sum where each level's contribution is gated by shared ancestry. Sharing across related groups regularizes sparse leaves.

Continuous kernels

What other continuous kernels would be useful? Some starting points:

  • Periodic / locally periodic
  • Spectral mixture
  • Polynomial
  • Linear
  • Changepoint / switching kernels
  • Rational quadratic

Open questions

  • What other kernels are people using that would be worth adding?
  • Are there kernels that would be useful but are tricky to implement or experiment with?
Lingua principale
Jupyter Notebook
Stelle
15
Fork
5
Merge medio
2g 10h
PR unite (30g)
5

Preparare l'ambiente

Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di pymc-devs/ptgp

Tutte le issue di pymc-devs/ptgp

Issue simili

Altre issue su Machine Learning

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.