[Bug]: LoRA微调时报错：--deepspeed: invalid dict value
Nadie ha tomado este issue todavía.
Evaluación
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Aptitud para principiantes
- 35/100
- Tipo de issue
- Error
- Claridad
- Necesita aclaración
- Estado de actividad
- Estancado
- Stack tecnológico
- bash, python, pytorch
- Área
- machine-learning
Línea de trabajo
Empieza leyendo finetune/lora_finetune_ocnli.sh y finetune.py; después, inspecciona la ruta referenciada configs/ds_config_zero3_offload.json y cómo se analiza --deepspeed. Vuelve a ejecutar el comando documentado desde el directorio finetune y confirma que el proceso de fine-tuning de LoRA se inicia sin el error de valor de dict no válido.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
Is there an existing issue ? / 是否已有相关的 issue ?
- I have searched, and there is no existing issue. / 我已经搜索过了，没有相关的 issue。
Describe the bug / 描述这个 bug
我运行LoRA微调命令：bash ./lora_finetune_ocnli.sh，报错：
finetune.py: error: argument --deepspeed: invalid dict value: 'configs/ds_config_zero3_offload.json'
To Reproduce / 如何复现
复现步骤：
cd MiniCPM/finetune
conda activate cpm # cpm是我为MiniCPM创建的虚拟环境
# 我已经运行此目录下pip install -r requirements.txt
bash ./lora_finetune_ocnli.sh
报如下错误：
finetune.py: error: argument --deepspeed: invalid dict value: 'configs/ds_config_zero3_offload.json'
注：我看了funetune.py文件，里面没有定义--deepspeed命令行参数。
Expected behavior / 期望的结果
可以正确启动LoRA微调过程
Screenshots / 截图
Environment / 环境
- OS: [Ubuntu 22.04]
- Pytorch: [torch 2.7.1-cu126]
- CUDA: [CUDA 12.4]
- Device: [ A100 40G 4块]
Additional context / 其他信息
No response
- Lenguaje dominante
- Jupyter Notebook
- Estrellas
- 11.1k
- Forks
- 766
- Merge medio
- 5 h 3 min
- PR fusionados (30 d)
- 6
Preparar el entorno
Aún no hemos revisado los archivos de configuración de este proyecto. Empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de OpenBMB/MiniCPM
-
Verify evals on Papers with CodeAbierto
Dificultad 1/5 Menos de una hora Aptitud para principiantes 78/100
-
Permission request: non-commercial research mirror of tokenized UltraData sets (SHADOW-125M)Abierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 15/100
-
Dificultad 3/5 1-2 días Aptitud para principiantes 55/100
-
feature
Dificultad 4/5 3-5 días Aptitud para principiantes 35/100
-
Dificultad 3/5 1-2 días Aptitud para principiantes 62/100
Todos los issues de OpenBMB/MiniCPM
Issues similares
-
hf-audiolm-qwen: `generate_until` hardcodes `.to("cuda")` and aborts on non-CUDA acceleratorsAbierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 86/100
EleutherAI/lm-evaluation-harness#4256 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 Medio día Aptitud para principiantes 88/100
deepset-ai/haystack#12978 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 76/100
openvinotoolkit/openvino_notebooks#3663 ·
Los mantenedores suelen responder en 1 día
-
Bug in GaussianTailProbabilityCalibrator: running_statistics=False still uses a windowed varianceAbiertobug good first issue
Dificultad 2/5 1-3 horas Aptitud para principiantes 88/100
selimfirat/pysad#107 ·
Los mantenedores suelen responder en 1 día
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
Los mantenedores suelen responder en 1 día