[lecture] Building a micro GPT (Blog Post)
Los mantenedores suelen responder en 1 día
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Nueva funcionalidad
- Claridad
- Necesita aclaración
- Estado de actividad
- Tranquilo
- Stack tecnológico
- python
- Área
- content, machine-learning
Línea de trabajo
Comienza con el artículo enlazado „Towards Deep Learning“ y su ejemplo de GPT en Python de 243 líneas. Compara su enfoque para construir tokens y patrones con la cuestión de la matriz de transición y define el alcance de la conferencia, los ejemplos y la implementación antes de comenzar el trabajo; se considerará terminado cuando haya una conferencia acordada que cubra los conceptos propuestos.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
This blog post is pretty cool
It builds a GPT in 243 lines of python including the autograd engine.
It learns baby names and then creates new ones.
Q: How is this different to a simple transition matrix building probabilities off of word transitions? Token size, how it builds patterns?
I think this could form the foundation of an interesting lecture using python.
- Lenguaje dominante
- Python
- Estrellas
- 1
- Forks
- 0
- Merge medio
- 1 d 3 h
- PR fusionados (30 d)
- 17
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de QuantEcon/lectures
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 78/100
Los mantenedores suelen responder en 1 día
-
drift
Dificultad 2/5 1-3 horas Aptitud para principiantes 35/100
Los mantenedores suelen responder en 1 día
-
question
Dificultad 4/5 1-2 días Aptitud para principiantes 44/100
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 4/5 3-5 días Aptitud para principiantes 48/100
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 4/5 3-5 días Aptitud para principiantes 58/100
QuantEcon/lectures#40 · 1 comentario ·
Los mantenedores suelen responder en 1 día
Todos los issues de QuantEcon/lectures
Issues similares
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 66/100
navikt/tiltakspenger#129 ·
-
Dificultad 1/5 1-3 horas Aptitud para principiantes 83/100
FinanceFlash/unvibecode#652 ·
Los mantenedores suelen responder en 1 día
-
netbox status: needs triage type: documentation
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
netbox-community/netbox#23655 ·
Los mantenedores suelen responder en 2 días
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 73/100
MCDReforged/MCDReforged#442 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
bytedance/agentkit-samples#277 ·