LoRA config in finetune.py
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 4/5
- Tiempo estimado
- 3-5 días
- Aptitud para principiantes
- 42/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Tranquilo
- Stack tecnológico
- python
- Área
- machine-learning
Línea de trabajo
Lee finetune.py y la sección de entrenamiento de finetune/FINETUNE.md para rastrear cómo se usan lora_rank=64 y lora_alpha=2. Compara los valores predeterminados documentados con el comportamiento del ajuste fino y la justificación disponible; se considera hecho cuando la configuración está justificada en la documentación o se corrige el valor predeterminado.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Hi,
Thank you for the great work!
I noticed that the default LoRA config for finetuning is:
--lora_rank=64
--lora_alpha=2
The lora_alpha is very small. Is there a reason for that? Did you find this to be beneficial?
- Lenguaje dominante
- Python
- Estrellas
- 667
- Forks
- 45
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
Aún no hemos revisado los archivos de configuración de este proyecto. Empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de OpenMOSS/MOSS-Audio
-
Add the LICENSE file — pyproject references one that doesn't exist (inference code has no licence)Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
OpenMOSS/MOSS-Audio#24 ·
-
promptAbierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
OpenMOSS/MOSS-Audio#33 ·
-
自建的speech caption的数据开源吗Abierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
OpenMOSS/MOSS-Audio#32 ·
-
关于时间戳音频转录质量Abierto
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100
OpenMOSS/MOSS-Audio#30 ·
-
Common Voice 15 EN EvaluationAbierto
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100
OpenMOSS/MOSS-Audio#27 · 1 comentario ·
Todos los issues de OpenMOSS/MOSS-Audio
Issues similares
-
bug status/needs-triage
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
prowler-cloud/prowler#12887 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
area: desktop platform: macos priority: p3 status: ready type: enhancement
Dificultad 1/5 Menos de una hora Aptitud para principiantes 92/100
use-agent-os/agent-os#3484 ·
Los mantenedores suelen responder en 2 días
-
bug
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
open-telemetry/opentelemetry-python-contrib#5113 · 2 comentarios · 2 reacciones ·
Los mantenedores suelen responder en 1 día
-
external
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
langchain-ai/docs#6255 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 72/100
Los mantenedores suelen responder en 1 día