how to dump a int4 model
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 25/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- python
- Área
- machine-learning
Línea de trabajo
Comienza con el script dump.py mencionado en el issue y compara su salida con resnet50.int4.mge. Lee la documentación enlazada de MegEngine sobre quantization-aware training para entender el flujo de cuantización esperado. Se considera terminado cuando se haya identificado si el procedimiento de volcado del modelo es incorrecto y se haya documentado la operación correcta o reproducido un problema confirmado.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
hi我使用代码中提示的dump.py脚本,不加载模型文件,生成的mgb模型速度远低于resnet50.int4.mge的模型
另外参考int8的模型,https://github.com/MegEngine/Models/tree/master/official/quantization#quantization-aware-training-qat
dump成量化模型需要quantize。麻烦请教一下是否是我操作有误best
yours
- Lenguaje dominante
- Python
- Estrellas
- 31
- Forks
- 5
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de MegEngine/examples
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 15/100
-
About int4 QAT exampleAbierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
-
Dificultad 5/5 Más de una semana Aptitud para principiantes 20/100
Todos los issues de MegEngine/examples
Issues similares
-
New InternshipAbiertonew_internship
Dificultad 1/5 Menos de una hora Aptitud para principiantes 70/100
-
[BUG] Reports tab: "Unban" button tooltip shows raw `{{ip}}` placeholder instead of the IP addressAbiertobug javascript ui
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
bunkerity/bunkerweb#4001 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
bug
Dificultad 1/5 Menos de una hora Aptitud para principiantes 92/100
PedestrianDynamics/pyFDS-Evac#476 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
google/differential-privacy#516 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 82/100
adobe-fonts/source-serif#153 ·