unslothai/unsloth

NEFTune - check if it functions correctly - `neftune_post_forward_hook` removed from trl

Chiusa

#1078 aperta il 30 set 2024

Vedi su GitHubGuida contributor
 (13 commenti) (0 reazioni) (0 assegnatari)Python (5658 fork)batch import
good first issue

Metriche repository

Star
 (64.271 stelle)
Metriche merge PR
 (Merge medio 3g 15h) (525 PR mergiate in 30 g)

Descrizione

Hi unsloth,

FYI, neftune_post_forward_hook has been removed from trl in https://github.com/huggingface/trl/pull/1841

cc @lewtun @kashif

Guida contributor

Direzione di ricerca
Indaga sulla pull request #1841 di trl che ha rimosso `neftune post forward hook`. Controlla l'utilizzo di questo hook nel codice di unsloth, in particolare nei file relativi a NEFTune. Determina se la funzionalità NEFTune di unsloth è interrotta o necessita di adattamento. Esamina i commenti nell'issue per ulteriore contesto dai maintainer come @lewtun e @kashif. Suggerisci una soluzione se l'implementazione di unsloth si basa sull'hook rimosso, ad esempio utilizzando un approccio alternativo o aggiornando per allinearsi al nuovo design di trl.
Tech stack
pythonpytorch
Dominio
machine learning
Tipo issue
Bug
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
3
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
Mezza giornata
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
basic understanding of NEFTunefamiliarity with trl library
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
50