Delegate the LLMDetector judge path to LLMJudgeDetector
I maintainer di solito rispondono entro 1 giorno
Nessuno ha ancora preso questa issue.
Valutazione
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Idoneità per principianti
- 58/100
Direzione di ricerca
Start with lettucedetect/detectors/llm.py and the LLMJudgeDetector constructor and LLMJudgeConfig mapping; first run the listed pytest command after blocker #160 is resolved. Check tests/test_llm_detector_pytest.py and tests/test_custom_taxonomy_pytest.py for expected behavior. Done means the judge prediction methods delegate to LLMJudgeDetector, preserve the specified dict outputs and min_confidence mapping, and the acceptance tests pass.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Descrizione
Parent: #156 · Epic: #126 · Blocked by: #160
Branch from stateless_core; open the PR against it.
Problem
Until the judge path of LLMDetector runs through LLMJudgeDetector, there are two implementations that can drift apart.
Current behavior
lettucedetect/detectors/llm.py:395_predict,:297_to_spans,:487_verifyand:533-625predict*hold the judge logic directly onLLMDetector.- Existing tests patch private methods on it.
Steps
- Inside
LLMDetector, for the judge case, build aLLMJudgeDetectorfrom the constructor arguments (map keywords toLLMJudgeConfig) and makepredict,predict_promptandpredict_prompt_batchconvert itsDetectioninto today's dicts (confidencefromscore). - Keep the private method names that existing tests call as thin wrappers where needed. Keep
min_confidencemapping tomin_score. - Argument handling, deprecation warnings and the native path stay as they are (#167, #165).
Acceptance criteria
-
predict*output equals the #129 judge fixtures except spans that had noconfidencenow carry 1.0 (intended change). -
tests/test_llm_detector_pytest.pyandtests/test_custom_taxonomy_pytest.pypass unchanged. - No duplicate judge logic remains on
LLMDetector.
Start here
uv run --extra dev pytest tests/test_llm_detector_pytest.py tests/test_golden_llm_pytest.py -q
- Lingua principale
- Python
- Stelle
- 615
- Fork
- 60
- Merge medio
- 1g 8h
- PR unite (30g)
- 10
Preparare l'ambiente
- Nessun Dockerfile né file Docker Compose
- Ha un modello di pull request
- Leggi la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di KRLabsOrg/LettuceDetect
-
Stop-hook --min-confidence drops every --llm-model span (missing confidence treated as 0.0), reporting hallucinated answers as cleanForse già presa @Clannad47 l’ha presa 17 giorni fa. Apertabug
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
KRLabsOrg/LettuceDetect#117 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
enhancement
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 85/100
KRLabsOrg/LettuceDetect#108 ·
I maintainer di solito rispondono entro 1 giorno
-
Add AGENTS.md: one entry file for coding agents and new contributorsForse già presa @ShryukGrandhi l’ha presa 18 giorni fa. Apertadocumentation
Difficoltà 2/5 Mezza giornata Idoneità per principianti 70/100
KRLabsOrg/LettuceDetect#104 ·
I maintainer di solito rispondono entro 1 giorno
-
ready-for-agent
Difficoltà 3/5 1-2 giorni Idoneità per principianti 68/100
KRLabsOrg/LettuceDetect#181 ·
I maintainer di solito rispondono entro 1 giorno
-
ready-for-agent
Difficoltà 5/5 Più di una settimana Idoneità per principianti 22/100
KRLabsOrg/LettuceDetect#180 ·
I maintainer di solito rispondono entro 1 giorno
Tutte le issue di KRLabsOrg/LettuceDetect
Issue simili
-
integration: logger
Difficoltà 2/5 1-3 ore Idoneità per principianti 68/100
home-assistant/core#191147 · 1 commento ·
I maintainer di solito rispondono entro 1 giorno
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
I maintainer di solito rispondono entro 1 giorno
-
documentation p4
Difficoltà 1/5 1-3 ore Idoneità per principianti 88/100
MillenniumDawn/focus-tree-creation-tool#417 ·
I maintainer di solito rispondono entro 3 giorni
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 78/100
CharlesP44/Beem_Energy#96 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
rheeloaded/paperpull#153 ·
I maintainer di solito rispondono entro 1 giorno