unslothai/unsloth

[Docs Improvement] Improve documentation on how to export model from Colab

Chiusa

#1615 aperta il 4 feb 2025

Vedi su GitHubGuida contributor
 (9 commenti) (1 reazione) (0 assegnatari)Python (5658 fork)batch import
feature requestgood first issuehelp wanted

Metriche repository

Star
 (64.271 stelle)
Metriche merge PR
 (Merge medio 3g 15h) (525 PR mergiate in 30 g)

Descrizione

I followed the well documented and easy step to fine tune a Mistal model. It went well, I exported the model to Colab and created an Ollama model.

However, I would like to use this model locally on my machine.

I found some information on connecting to Google Drive, but on my side (tried several browsers) it fails with: MessageError: Error: credential propagation was unsuccessful

Of course the resulting unsloth.Q8_0.gguf is 7GB so direct download from Colab fails.

Are there any options ? It could be listed as a caveat in the docs maybe ?

Thanks !

Guida contributor

Direzione di ricerca
Indaga sui problemi comuni durante l'esportazione di file GGUF di grandi dimensioni da Colab, come errori di propagazione delle credenziali di Google Drive e limitazioni di download diretto. Controlla la documentazione esistente nel repository unslothai/unsloth per le istruzioni di esportazione attuali. Proponi di aggiungere avvertenze e metodi alternativi (ad esempio, utilizzando lo storage cloud o suddividendo i file) nella documentazione.
Tech stack
python
Dominio
documentation
Tipo issue
Documentazione
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
2
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Meno di 1 ora
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Nuova
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Chiara
Prerequisiti
Nessuno
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
90