Add MNLI to Full Benchmark
まだ誰も着手していません。
評価
- 難易度
- 5/5
- 見積もり時間
- 1週間以上
- 初心者へのやさしさ
- 20/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
調査の方向性
ファイル、テスト、エントリーポイントは指定されていません。まず完全なベンチマークと既存の SuperGLUE 統合を見つけ、次にその貢献者と調整して FLEX を想定しているかを明確にしてください。MNLI が一度だけ含まれ、ホールドアウトしたデータを用いたトレーニングの解釈が文書化されれば完了です。
索引モデルが issue の本文から書いたものです。
説明
coordinate with whoever is working on SuperGLUE, we only need to include MNLI once. But NLI will be held-out from model training (whereas the other SuperGLUE tasks will not) so interpreting MNLI results is different from other superglue tasks.
use to test generalization to unseen task; maybe use FLEX?
- 主要言語
- Python
- スター
- 42
- フォーク
- 24
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
bigscience-workshop/evaluation のほかの issue
-
難易度 4/5 3〜5日 初心者へのやさしさ 25/100
-
Refactor task template to merge multilingual.json and english.json再び着手できるかも @wilsonyhlee が 1867 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン
bigscience-workshop/evaluation#64 · 担当者 1 名 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
bigscience-workshop/evaluation#61 · コメント 2 件 · リアクション 3 件 ·
-
Setup testing再び着手できるかも @tttyuntian が 1883 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンengineering
bigscience-workshop/evaluation#57 · コメント 2 件 · 担当者 3 名 ·
-
Start overleaf for benchmark tech report再び着手できるかも @arunraja-hub が 1878 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンdocumentation
bigscience-workshop/evaluation#54 · コメント 1 件 · リアクション 3 件 · 担当者 2 名 ·
bigscience-workshop/evaluation の issue をすべて見る
似ている issue
-
customer-reported question
難易度 2/5 1〜3時間 初心者へのやさしさ 62/100
Azure/azure-sdk-for-python#49548 · コメント 1 件 · リアクション 1 件 ·
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1時間未満 初心者へのやさしさ 88/100
btclib-org/btclib-wallet#409 ·
メンテナーはふだん 1 日以内に返信
-
Phase 2 PSA Capability & Career Profile
難易度 2/5 1〜3時間 初心者へのやさしさ 62/100
bcgov/digital-journeys#2310 ·
-
bug good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
fastmachinelearning/hls4ml#1582 ·
メンテナーはふだん 3 日以内に返信
-
Sort modelsオープンenhancement good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 62/100
メンテナーはふだん 1 日以内に返信