Comfy-Org/ComfyUI

Create caching option that organizes cache based on loading times of cached values

Open

#8.367 aberto em 1 de jun. de 2025

Ver no GitHub
 (0 comments) (0 reactions) (0 assignees)Python (13.218 forks)batch import
Featurehelp wanted

Métricas do repositório

Stars
 (112.952 stars)
Métricas de merge de PR
 (Mesclagem média 4d 8h) (164 fundiu PRs em 30d)

Description

Feature Idea

Create a new caching algorithm/class that

  • scores each cached output on the basis of (1) time to load cold and (2) relative size of cached output compared with available system memory
  • arranges cached values in min- or max-heap such that the item being popped from cache is always the highest scored item

The effect is that we are more likely to pop items from the cache that take a small amount of time to load relative to their size.

Then expose that option via command line option, to exist alongside current options (lru, classic, no caching)

Existing Solutions

No response

Other

No response

Guia do colaborador

Direção de pesquisa
Estude os algoritmos de cache existentes no codebase (LRU, clássico) e entenda como eles são integrados. Em seguida, projete e implemente um novo algoritmo de cache baseado em heap que pontua itens pelo tempo de carregamento e tamanho. Exponha via opção de CLI.
Pilha de tecnologia
python
Domain
backendcli
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
Pythoncaching concepts
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
50