Generate predictions for responses with non-numeric human scores
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 35/100
- issue の種類
- 機能追加
- 明瞭さ
- おおむね明確
- 活発さ
- 停滞
- 技術スタック
- python, scikit-learn
調査の方向性
まず、既存のRSMPredictエントリーポイントとtraining-fileのフローを読んで、現在どのようにモデルが学習され、予測が生成されているかを理解します。非数値の人手によるスコアに対する単一のtrain-then-predictパスを定義し、関連する完了確認としてconfusion-matrixを使用しつつ、ほとんどの評価に関して述べられている制限を維持します。
索引モデルが issue の本文から書いたものです。
説明
[by @aoifecahill ] It would be nice if it was possible to automatically generate predictions for data that has non-numeric human scores. Obviously these predictions can't be used in most of the evaluations, but they could be useful in a confusion matrix for example.
I know RSMPredict does predictions, but that's not quite what I was looking for. It would be nice if there was just one tool that trained a model using the training file and then ran RSMPredict on the test file. I don't think anything like that already exists? I don't really care much about the evaluation (though the confusion matrix would be interesting), rather just would like the convenience of being able to do train+predict in one step rather than multiple with hacks (since I don't know of a way to just train a model without having a fake test file for rsmtool?)
This is a nice-to-have issue.
- 主要言語
- Python
- スター
- 71
- フォーク
- 21
- PR マージ指標
- 30日以内にマージされた PR はありません
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
EducationalTestingService/rsmtool のほかの issue
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
EducationalTestingService/rsmtool#689 · コメント 5 件 ·
-
enhancement
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
-
EducationalTestingService/rsmtool#557 · 担当者 1 名 ·
-
enhancement
難易度 5/5 1週間以上 初心者へのやさしさ 35/100
-
good first issue help wanted
難易度 4/5 3〜5日 初心者へのやさしさ 30/100
EducationalTestingService/rsmtool の issue をすべて見る
似ている issue
-
bug
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
stephrobert/dsoxlab#238 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
sublimehq/package_control#1780 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
nwg-piotr/nwg-displays#145 ·