Feature Requests

オープン
#54 コメント 3 件 リアクション 1 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
5/5
見積もり時間
1週間以上
初心者へのやさしさ
15/100
issue の種類
機能追加
明瞭さ
説明が足りない
活発さ
停滞
技術スタック
julia

調査の方向性

この issue は、部分集合選択、relaxed Lasso、交互作用、非凸ペナルティ、ステップワイズ回帰、アンサンブルなど、7つの追加候補を幅広く列挙したものです。まず1つの要望を選び、参照されている Julia パッケージと論文を確認してください。作業は、スコープを限定した単一のモデルが、合意済みのテストとドキュメントとともに MLJLinearModels に統合された時点でのみ完了です。

索引モデルが issue の本文から書いたものです。

説明

@tlienart

  1. All Subset (Best K Subset):
    I've got parsimonious code for All Subset Regression which might have a nice home in this package that I'd like to share.
    While it's much faster than R's Leaps pkg, I would include a strong warning to users:
    This optimization problem is sooo not convex. Avoid for p>20.

  2. Approximate All Subset (MIO):
    As you probably know,
    Bertsimas etal (2016): show how to use MIO to approximately train all subset regression for p =1000 in minutes.
    Bertsimas et al (2019): do this for p=100k in minutes.
    The corresponding Julia package is SubsetSelection.jl.
    Also see forthcoming Julia package MIP-Boost.
    It would be really awesome if these linear models were featured in MLJ.

  3. Relaxed Lasso:
    Hastie et al 2017: responded that relaxed Lasso matches Lasso in low-SNR scenarios & beats All Subset in high-SNR scenarios
    glmnet: now features "relaxed Lasso"
    Would this be difficult to add to MLJLinearModels? (maybe we can work on it together?)

  4. Linear Interactions:
    There are some cool new packages for interactions in linear models.
    I find these compare in out-of-sample fit w/ non-linear models (xgboost etc, no joke)
    R: sprintr & HierNet
    Python: HierScale

  5. Nonconvex penalties (MCP SCAD):
    https://github.com/joshday/SparseRegression.jl/blob/master/README.md

  6. Forward selection/stepwise regression:
    (stackoverflow, has Julia code)
    Textbook code

  7. Ensembles of Penalized Linear Models:
    Christidis et al 2019: Paper, old code EnsembleEN, new code SplitReg

主要言語
Julia
スター
86
フォーク
16
PR マージ指標
30日以内にマージされた PR はありません

環境構築

このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

JuliaAI/MLJLinearModels.jl のほかの issue

JuliaAI/MLJLinearModels.jl の issue をすべて見る

似ている issue

Julia の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。