Reasoning models return empty content and polish silently falls back to raw

Offen
#1,303 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Maintainer antworten meist innerhalb von 1 Tag

Dieses Issue hat noch niemand übernommen.

Bewertung

Schwierigkeit
3/5
Geschätzter Aufwand
1-2 Tage
Anfängerfreundlichkeit
63/100
Issue-Typ
Bug
Klarheit
Klar beschrieben
Aktivitätsstatus
Aktiv
Tech-Stack
rust
Bereich
ai

Rechercherichtung

Start by tracing how the polish step handles a successful model response with empty content, and how the Verify channel checks responses. Reproduce the reported case with deepseek-flash and a 20-token budget, then check the provider documentation. Done means empty content with non-zero reasoning tokens produces a clear error instead of inserting the raw transcript, with the provider guidance updated.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Beschreibung

Environment: OpenLess 2.0.2-Beta.3+build.20261026-c9f49c60, macOS 27.2 arm64.

Description

deepseek-flash is a reasoning model: it spends the whole completion budget on reasoning_content and returns an empty content. With a tight max_tokens the polish step yields nothing, and the app keeps the raw transcript — again silent verbatim output.

Channel "Verify" passes regardless, because it only checks that the request succeeds.

Reproduced directly against the API with the same key:

  • deepseek-flash, 20-token budget → content: "", 20 reasoning tokens, finish_reason: length
  • deepseek-chat, same prompt → content returned in 0.57 s, 0 reasoning tokens
Suggestion

Detect an empty content with non-zero reasoning_tokens and report "model returned no text — pick a non-reasoning model" instead of silently inserting the raw transcript. Worth a line in the provider docs as well.

Vorherrschende Sprache
Rust
Sterne
3.7k
Forks
349
Ø Merge
2 T. 14 Std.
Gemergte PRs (30 T.)
97

Entwicklungsumgebung

Dieses Projekt bietet weder Dev-Container noch Dockerfile noch Beitragsleitfaden – die Einrichtung liegt bei Ihnen. Beginnen Sie mit der README; die allgemeinen Schritte stehen in unserem Leitfaden für den ersten Beitrag.

Erste Schritte

  1. Lesen Sie das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreiben Sie ins Issue, dass Sie es übernehmen — das erspart doppelte Arbeit.
  3. Forken Sie das Repository und arbeiten Sie in einem Branch.
  4. Öffnen Sie einen Pull Request, der die Issue-Nummer nennt.

Mehr aus Open-Less/openless

Alle Issues in Open-Less/openless

Ähnliche Issues

Weitere Issues zu Rust

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.