pyg-team/pytorch_geometric

Implementation of LLM-to-LM GNN

Aperta

#9361 aperta il 26 mag 2024

Vedi su GitHubGuida contributor
 (3 commenti) (0 reazioni) (1 assegnatario)Python (3514 fork)batch import
1 - Priority P1examplefeaturehelp wanted

Metriche repository

Star
 (19.985 stelle)
Metriche merge PR
 (Merge medio 35g 1h) (14 PR mergiate in 30 g)

Descrizione

🚀 The feature, motivation and pitch

Paper: Harnessing Explanations: LLM-to-LM Interpreter for Enhanced Text Attributed Graph Representation Learning (ICLR 2024)

The paper uses the power of an LLM to get a meaningful explanation, which is then used to fine-tune a smaller LM+GNN. Really interesting paper. Would be great to have an example of it in PyG :)

Guida contributor

Direzione di ricerca
Implementa l'architettura dell'interprete LLM to LM come descritto nell'articolo, concentrandoti sull'integrazione di un LLM per la generazione di spiegazioni e sul suo utilizzo per mettere a punto un modello linguistico più piccolo combinato con un GNN per l'apprendimento di grafi con attributi testuali.
Tech stack
pythonpytorch
Dominio
machine learning
Tipo issue
Funzionalità
DifficoltàQuanto dovrebbe essere impegnativa per un nuovo contributor.
4
Tempo stimatoTempo stimato per completare e verificare uno scope piccolo.
3-5 giorni
Stato attivitàQuanto è probabile che la issue sia ancora attiva e reviewable.
Attiva
ChiarezzaQuanto chiaramente la issue descrive problema, scope e risultato atteso.
Abbastanza chiara
Prerequisiti
PyTorchPyG basicsGNN knowledge
Adatta ai principiantiQuanto la issue è adatta a contributor alla prima esperienza.
30