Add MKQA to Full Benchmark
まだ誰も着手していません。
評価
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 初心者へのやさしさ
- 25/100
- issue の種類
- 機能追加
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- python
調査の方向性
まず、リンクされた MKQA リポジトリと、評価プロジェクトに既に存在する full-benchmark の統合ポイントを読みます。ベンチマークデータセットがどのように登録・テストされているかを確認し、そのうえで、26 の言語および方言を含む MKQA が完全なベンチマークに含まれていることを検証します。
索引モデルが issue の本文から書いたものです。
説明
Available here: https://github.com/apple/ml-mkqa
Question Answering in 26 languages/dialects.
- 主要言語
- Python
- スター
- 42
- フォーク
- 24
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
bigscience-workshop/evaluation のほかの issue
-
Refactor task template to merge multilingual.json and english.json再び着手できるかも @wilsonyhlee が 1864 日前に担当しましたが、オープン中のプルリクエストはありません。 オープン
bigscience-workshop/evaluation#64 · 担当者 1 名 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 20/100
bigscience-workshop/evaluation#61 · コメント 2 件 · リアクション 3 件 ·
-
Setup testing再び着手できるかも @tttyuntian が 1880 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンengineering
bigscience-workshop/evaluation#57 · コメント 2 件 · 担当者 3 名 ·
-
Start overleaf for benchmark tech report再び着手できるかも @arunraja-hub が 1875 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンdocumentation
bigscience-workshop/evaluation#54 · コメント 1 件 · リアクション 3 件 · 担当者 2 名 ·
-
translate validation prompts into all training languages再び着手できるかも @epavlick が 1886 日前に担当しましたが、オープン中のプルリクエストはありません。 オープンmultilingual simple_benchmark
bigscience-workshop/evaluation#50 · コメント 9 件 · 担当者 2 名 ·
bigscience-workshop/evaluation の issue をすべて見る
似ている issue
-
docs pydanty:is-working
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
pydantic/pydantic-ai#10113 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 77/100
GreedyBear-Project/GreedyBear#1727 ·
メンテナーはふだん 2 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
ARM-software/CMSIS-DSP#354 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
kiat/codeAssist#391 ·
-
needs triage
難易度 2/5 1〜3時間 初心者へのやさしさ 83/100
darnitdevorg/darnit#587 ·
メンテナーはふだん 1 日以内に返信