Auto-compact on idle, aligned to the model's prompt cache TTL

Abierto
#4,724 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
48/100
Tipo de issue
Nueva funcionalidad
Claridad
Bastante claro
Estado de actividad
Activo
Stack tecnológico
shell
Área
cli

Línea de trabajo

Empieza rastreando el flujo existente de compactación por umbral de tokens y dónde está disponible el TTL de la caché de prompts del modelo activo. Define el disparador de inactividad en torno a ese TTL y verifica después que el siguiente turno tras un intervalo de inactividad use el contexto compactado en lugar de volver a leer el contexto completo sin caché.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

area:context-memory area:models
Describe the feature or problem you'd like to solve

Prompt cache TTL is ~5 min. After an idle gap the next turn re-reads the full context uncached, at a cost and latency that scale with context size. Compaction only triggers on token thresholds today (#1688, #2333), so the only workaround is running /compact manually before going idle.

Proposed solution

A time-based compaction trigger, with the idle threshold tied to the active model's cache TTL.

Example prompts or workflows

No response

Additional context

No response

Lenguaje dominante
Shell
Estrellas
11.2k
Forks
1.9k
Merge medio
14 h 16 min
PR fusionados (30 d)
6

Guía de contribución

Abrir la guía de contribución

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de github/copilot-cli

Todos los issues de github/copilot-cli

Issues similares

Más issues de Shell/Bash

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.