Batch thinking deltas like text deltas while streaming

Abierto
  • ¿Algo no está bien?
#155 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

@iamcipherdev ya está trabajando en esto.

Desde el 22/10/2026.

  • #160 de @iamcipherdev — abierto

Evaluación

Dificultad
3/5
Tiempo estimado
1-2 días
Aptitud para principiantes
35/100
Tipo de issue
Nueva funcionalidad
Claridad
Bien especificado
Estado de actividad
Estancado
Stack tecnológico
react, typescript
Área
desktop, performance, testing

Línea de trabajo

Start in desktop/src/stores/chatStore.ts: inspect the pendingDeltaBySession buffer and flush points, then trace the thinking event handling at lines 1309–1328. Check MessageList.tsx around buildRenderModel to understand the render impact. Add coverage for batching and ordering, then run desktop tests and typecheck; done means thinking is batched, ordered before following text, and the render improvement is measured. An open pull request already targets this issue.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

area:desktop area:perf difficulty:1 enhancement good first issue help wanted

Part of #153.

Problem

Text and tool-input deltas are buffered for 50ms before they update the store, but thinking deltas are not. Each thinking event updates the store at once (desktop/src/stores/chatStore.ts:1309-1328). That creates a new messages array, which:

  • makes MessageList rebuild its whole render model (buildRenderModel, MessageList.tsx:1513);
  • re-renders every tool group through a new toolResultMap.

With fast thinking output this happens dozens of times per second.

What to do

Buffer thinking deltas the same way as text deltas: the 50ms buffer around pendingDeltaBySession (chatStore.ts:272-301, flushed at :1265), or one rAF.

Two ordering rules:

  • Flush pending thinking before the first text delta, a tool call, or turn end, so the order of thinking and text stays correct.
  • Flush on session switch and disconnect, the same way text is flushed today (chatStore.ts:768, :927).

Done when

  • A test shows that several thinking deltas inside one window produce one store update, and that thinking still appears before the text that follows it.
  • The PR includes a before/after React Profiler capture, or a render count, for a reply with a long thinking block.
  • Desktop tests and typecheck pass.
Lenguaje dominante
TypeScript
Estrellas
490
Forks
47
Merge medio
8 h 51 min
PR fusionados (30 d)
91

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de GoDiao/dreamcoder

Todos los issues de GoDiao/dreamcoder

Issues similares

Más issues de TypeScript

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.