pull-request-dashboard: replay corpus cannot validate routes end to end

オープン
#192 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

メンテナーはふだん 1 日以内に返信

まだ誰も着手していません。

評価

難易度
4/5
見積もり時間
3〜5日
初心者へのやさしさ
48/100
issue の種類
機能追加
明瞭さ
おおむね明確
活発さ
静か

調査の方向性

まず normalize_events、compute_facts、route_pr をたどり、次に otelbot/pull-request-dashboard-state/ のブランチにある既存のハーネスと route 値を調べます。コミット、ステータスチェック、mergeable state を含む 441-PR コーパスを再構築し、collector はリポジトリに残したまま、計算された route と記録された route の差分を取る replay を追加します。コーパス全体で route レベルの分類変更を比較できれば完了です。

索引モデルが issue の本文から書いたものです。

説明

The 441 pull request replay corpus used to validate dashboard classification changes was collected without commits, so it cannot be used to compare whole-PR routes before and after a change.

normalize_events reads raw["commits"], and the harnesses work around this by passing {"commits": [], "review_comments": []}. That is fine for deriving discussion items and review threads, but it means compute_facts never sees pushes or CI, so route_pr cannot be evaluated. Any classification change can therefore only be measured at the discussion layer.

Concretely, the review-thread rewrite could be measured as "134 of 144 pull requests unchanged in whether any thread demands the author", but not as "N of 441 routes unchanged", which is the number that actually matters.

To close this:

  • re-collect the corpus with commits and whatever else compute_facts reads (status checks, mergeable state)
  • add a replay that computes route_pr per pull request and diffs against the route recorded in the otelbot/pull-request-dashboard-state/<repo> branches
  • keep the collector in the repo rather than as local scratch, so the corpus can be rebuilt

Until then, route-level claims about classification changes are not supported by evidence.

主要言語
JavaScript
スター
7
フォーク
23
平均マージ
15時間 46分
マージ済み PR(30日)
41

環境構築

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

open-telemetry/shared-workflows のほかの issue

open-telemetry/shared-workflows の issue をすべて見る

似ている issue

JavaScript の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。