Comfy-Org/ComfyUI

Create caching option that organizes cache based on loading times of cached values

Open

#8 367 ouverte le 1 juin 2025

Voir sur GitHub
 (0 commentaires) (0 réactions) (0 assignés)Python (13 218 forks)batch import
Featurehelp wanted

Métriques du dépôt

Stars
 (112 952 stars)
Métriques de merge PR
 (Merge moyen 4j 8h) (164 PRs mergées en 30 j)

Description

Feature Idea

Create a new caching algorithm/class that

  • scores each cached output on the basis of (1) time to load cold and (2) relative size of cached output compared with available system memory
  • arranges cached values in min- or max-heap such that the item being popped from cache is always the highest scored item

The effect is that we are more likely to pop items from the cache that take a small amount of time to load relative to their size.

Then expose that option via command line option, to exist alongside current options (lru, classic, no caching)

Existing Solutions

No response

Other

No response

Guide contributeur

Direction de recherche
Étudiez les algorithmes de cache existants dans la base de code (LRU, classique) et comprenez comment ils sont intégrés. Concevez et implémentez ensuite un nouvel algorithme de cache basé sur un tas qui note les éléments en fonction du temps de chargement et de la taille. Exposez via une option CLI.
Stack technique
python
Domaine
backendcli
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
3
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
Une demi journée
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Récente
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
Pythoncaching concepts
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
50