GoogleCloudPlatform/kubectl-ai

[Feature]: Add session persistence for llama.cpp

Ouverte

#463 ouverte le 8 août 2025

Voir sur GitHubGuide contributeur
 (0 commentaire) (1 réaction) (0 personne assignée)Go (708 forks)auto 404
enhancementhelp wanted

Métriques du dépôt

Stars
 (7 532 étoiles)
Métriques de merge PR
 (Aucune PR mergée en 30 j)

Description

#443 added session persistence for Gemini, but other providers were left unimplemented.

We should add similar implementation of Initialize() to load chat history for llama.cpp. This can happen in gollm/llamacpp.go and will likely follow a similar flow to Gemini, where we convert api messages to the provider-specific messages and add them to the history.

Adding tests is also very welcomed. Basic flows like saving and loading sessions, creating a new session, deleting a session, and listing sessions should be covered. Edge cases like invalid session ID and corrupted save file should also be covered.

Guide contributeur

Direction de recherche
Étudiez l'implémentation existante de la persistance des sessions pour Gemini dans gollm/gemini.go. Reproduisez ensuite la fonction Initialize() dans gollm/llamacpp.go, en adaptant la conversion des messages API au format llama.cpp. Ajoutez des tests correspondants pour sauvegarder, charger, créer, supprimer, lister les sessions et gérer les ID de session invalides et les fichiers corrompus.
Stack technique
go
Domaine
backend
Type d'issue
Fonctionnalité
DifficultéDifficulté estimée pour un nouveau contributeur, de 1 pour un très petit changement à 5 pour un travail expert.
2
Temps estiméFourchette de temps approximative pour investiguer, implémenter, tester et préparer une pull request.
1-3 heures
Statut d'activitéDisponibilité apparente de l'issue : fraîche, active, ancienne, bloquée ou en attente d'un mainteneur.
Active
ClartéClarté avec laquelle l'issue explique le changement attendu, les critères d'acceptation et la prochaine étape.
Claire
Prérequis
GoGit
Accessibilité débutantScore de 1 à 100 estimant l'accessibilité de cette issue pour un premier contributeur.
65