ggml-org/llama.cpp

Refactor: Add more typechecking to GGUFWriter.add_key_value

Open

#9095 aperta il 19 ago 2024

Vedi su GitHub
 (1 commento) (0 reazioni) (0 assegnatari)C++ (18.202 fork)batch import
help wantedrefactoring

Metriche repository

Star
 (110.169 star)
Metriche merge PR
 (Merge medio 5g 11h) (457 PR mergiate in 30 g)

Descrizione

Background Description

As per this discussion https://github.com/ggerganov/llama.cpp/pull/9074#issuecomment-2296799118 write better error messages in case of wrong types.

FYI: This ticket is free for others to approach

Possible Refactor Approaches

N/A

Guida contributor

Direzione di ricerca
Il problema richiede di migliorare il controllo dei tipi in GGUFWriter::add key value. Rivedere la discussione su https://github.com/ggerganov/llama.cpp/pull/9074#issuecomment 2296799118 per il contesto sui messaggi di errore desiderati. I file da modificare sono probabilmente nell'implementazione dello scrittore GGUF, possibilmente in gguf writer.cpp o simili. Implementare una migliore validazione dei tipi e messaggi di errore per i tipi non corrispondenti.
Tech stack
cpp
Dominio
backendtooling
Tipo issue
Refactoring
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
1-3 ore
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
C++ basicsfamiliarity with llama.cppunderstanding of GGUF format
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
70