Comfy-Org/ComfyUI

Create caching option that organizes cache based on loading times of cached values

Open

#8367 aperta il 1 giu 2025

Vedi su GitHub
 (0 commenti) (0 reazioni) (0 assegnatari)Python (13.218 fork)batch import
Featurehelp wanted

Metriche repository

Star
 (112.952 star)
Metriche merge PR
 (Merge medio 4g 8h) (164 PR mergiate in 30 g)

Descrizione

Feature Idea

Create a new caching algorithm/class that

  • scores each cached output on the basis of (1) time to load cold and (2) relative size of cached output compared with available system memory
  • arranges cached values in min- or max-heap such that the item being popped from cache is always the highest scored item

The effect is that we are more likely to pop items from the cache that take a small amount of time to load relative to their size.

Then expose that option via command line option, to exist alongside current options (lru, classic, no caching)

Existing Solutions

No response

Other

No response

Guida contributor

Direzione di ricerca
Studia gli algoritmi di caching esistenti nel codebase (LRU, classico) e comprendi come sono integrati. Quindi progetta e implementa un nuovo algoritmo di caching basato su heap che assegna un punteggio agli elementi in base al tempo di caricamento e alle dimensioni. Esponi tramite opzione CLI.
Tech stack
python
Dominio
backendcli
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
Pythoncaching concepts
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
50