Treat low-evidence candidate speech as unassessed
メンテナーはふだん 1 日以内に返信
まだ誰も着手していません。
評価
調査の方向性
Read PR #423 and follow-up issues #123 and #553 to understand the existing communication eligibility flow. Locate where candidate turns determine assessment eligibility and review how transcript data is recorded and used. Agree on a deterministic evidence threshold before implementation; done means the listed transcript cases leave communication unassessed when evidence is insufficient, with coverage for each case.
索引モデルが issue の本文から書いたものです。
説明
Background
PR #423 fixed the zero-candidate-turn case by leaving communication
unassessed when no candidate speech was recorded.
(guys can check out pr#423 first before fixing this issue)
However, the current assessment eligibility is still mainly determined by
whether at least one candidate turn exists. A transcript segment containing
a cough, background noise, a filler word, or a stray ASR result may therefore
enable communication scoring even when there is not enough meaningful
evidence to evaluate the candidate.
This is a follow-up to #123 and #423.
Current behavior
A session may be treated as communication-assessable as soon as one
candidate turn is recorded.
For example, the following may potentially count as evidence:
- A cough or background noise transcribed as text
- Filler-only speech such as "uh" or "um"
- A short acknowledgement such as "yes"
- A stray or malformed ASR transcript
- Interviewer audio captured again through microphone echo
This may cause the report to generate a communication score and strengths
that are not supported by meaningful candidate speech.
Expected behavior
Communication should only be assessed when the transcript contains enough
meaningful candidate speech to support a reliable evaluation.
Sessions should distinguish between at least these states:
- No candidate speech captured
- Candidate speech captured, but evidence is insufficient
- Sufficient evidence for communication assessment
For the first two states:
communicationScoreshould remainnull- Communication should be displayed as unassessed
- Communication strengths should not be invented
- Coding activity, test runs, and code comments should not be treated as
spoken communication
Proposed direction
Introduce a deterministic communication-evidence classification instead of
using only candidate_turns > 0.
The exact threshold should be discussed before implementation. Possible
signals include:
- The number of substantive candidate turns
- The amount of meaningful transcript content
- Filtering filler-only and noise-like transcripts
- Speaker attribution and ASR confidence, when available
The implementation should avoid relying on a model alone to decide whether
the available evidence is sufficient.
Validation
Add coverage for:
- Zero candidate turns
- Noise-only or cough-like transcripts
- Filler-only speech
- A single short acknowledgement
- One substantive explanation
- Multiple meaningful candidate responses
- Mixed noise and meaningful speech
- Empty or malformed ASR results
- Interviewer echo incorrectly captured as candidate speech
Out of scope
This issue does not require implementing general-purpose audio denoising or
speaker recognition. Its scope is deciding whether the recorded transcript
contains enough reliable candidate evidence for communication assessment.
- 主要言語
- Rust
- スター
- 215
- フォーク
- 141
- 平均マージ
- 1日 12時間
- マージ済み PR(30日)
- 228
環境構築
- Dockerfile・Docker Compose ファイルなし
- プルリクエストのテンプレートなし
- コントリビューションガイドを読む
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
sysprog21/codetrial のほかの issue
-
Audio output can be confirmed without playing a test sound対応中かも @ChenYingHan1121 が 11 日前に担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 62/100
sysprog21/codetrial#359 · コメント 6 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
Add update notifications for the prebuilt Windows binary Problem対応中かも @Yu-Ming-Chang が 1 日前に担当しました。 オープン
sysprog21/codetrial#547 · コメント 2 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
Tell macOS binary users when a newer release is available対応中かも @LJY2000-max が 1 日前に担当しました。 オープン
sysprog21/codetrial#543 · コメント 2 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
An abandoned start holds its interviewer slot for five minutes対応中かも @matthiola0 が 1 日前に担当しました。 オープン
難易度 4/5 3〜5日 初心者へのやさしさ 43/100
sysprog21/codetrial#539 · コメント 3 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
-
Web lobby cannot reopen Setup after configuration対応中かも @YEH-YU-YANG が 3 日前に担当しました。 オープン
sysprog21/codetrial#525 · コメント 3 件 · 担当者 1 名 ·
メンテナーはふだん 1 日以内に返信
sysprog21/codetrial の issue をすべて見る
似ている issue
-
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
メンテナーはふだん 1 日以内に返信
-
compiler P4 perf
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
HerringtonDarkholme/hd-lang#1044 ·
メンテナーはふだん 1 日以内に返信
-
good first issue help wanted r-docs
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
servo/rust-smallvec#824 ·
メンテナーはふだん 1 日以内に返信
-
難易度 1/5 1時間未満 初心者へのやさしさ 90/100
akitaonrails/ai-usagebar#552 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100