the difference of your bleu and sacrebleu
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
- 難易度
- 3/5
- 見積もり時間
- 1〜2日
- 初心者へのやさしさ
- 25/100
- issue の種類
- バグ
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- python
調査の方向性
パッケージとsacrebleuを使い、中国語の例とsacrebleuのzh tokenizerで報告されたBLEUの不一致を再現する。両方の実装で使用されているトークン化とメトリクス設定を比較する。原因を文書化するか、具体的な修正を特定できれば完了とする。
索引モデルが issue の本文から書いたものです。
説明
What is the difference between your package's bleu implementation and sacrebleu implementation? I calculated the result differently in the two ways, Chinese expected, passed sacrebleu's zh tokenizer
- 主要言語
- Python
- スター
- 2.5k
- フォーク
- 359
- 平均マージ
- 48分
- マージ済み PR（30日）
- 1
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
huggingface/evaluate のほかの issue
-
exact_match: ignore_punctuation only removes ASCII punctuation対応中かも @reginaldalfret が 4 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
huggingface/evaluate#836 ·
メンテナーはふだん 1 日以内に返信
-
EvaluationSuite.run fails with default args_for_task and mutates supplied kwargs対応中かも @ktz03 が 16 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
huggingface/evaluate#825 ·
メンテナーはふだん 1 日以内に返信
-
exact_match scores two different answers as a perfect match when normalization erases both to the same residue対応中かも @MahendraMula が 33 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 75/100
huggingface/evaluate#822 ·
メンテナーはふだん 1 日以内に返信
-
Perplexity metric fails with GPT-2 tokenizer対応中かも @zanvari が 131 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100
huggingface/evaluate#766 · コメント 1 件 ·
メンテナーはふだん 1 日以内に返信
-
False/misleading instruction to use different checkpoints of BLEURT再び着手できるかも このイシューのプルリクエストはマージされずにクローズされました。 オープン
難易度 1/5 1時間未満 初心者へのやさしさ 62/100
huggingface/evaluate#679 · リアクション 1 件 ·
メンテナーはふだん 1 日以内に返信
huggingface/evaluate の issue をすべて見る
似ている issue
-
tests/strategies_test.py:174 goes uncovered on about 1 run in 100, failing the coverage ratchetオープンflaky-watch
難易度 2/5 1〜3時間 初心者へのやさしさ 88/100
btclib-org/btclib#2839 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 65/100
nion-software/nionswift#2018 ·
メンテナーはふだん 1 日以内に返信
-
Deleting a member fails when another member's share transfer points to them対応中かも @Beerlesklopfer が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
FoodCoopX/wirgarten-tapir#1336 ·
メンテナーはふだん 3 日以内に返信
-
pydanty:is-working
難易度 2/5 1〜3時間 初心者へのやさしさ 71/100
pydantic/pydantic-ai#11467 ·
メンテナーはふだん 1 日以内に返信
-
Link Checker Reportオープンautomated issue linkchecker report
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
QuantEcon/lecture-python.myst#1098 ·
メンテナーはふだん 1 日以内に返信