[Bug]: LoRA微调时报错:--deepspeed: invalid dict value
まだ誰も着手していません。
評価
- 難易度
- 3/5
- 見積もり時間
- 1〜2日
- 初心者へのやさしさ
- 35/100
- issue の種類
- バグ
- 明瞭さ
- 説明が足りない
- 活発さ
- 停滞
- 技術スタック
- bash, python, pytorch
調査の方向性
まず finetune/lora_finetune_ocnli.sh と finetune.py を読み、次に参照されている configs/ds_config_zero3_offload.json のパスと、--deepspeed がどのように解析されるかを確認します。finetune ディレクトリから文書化されているコマンドを再実行し、LoRA fine-tuning プロセスが無効な dict 値のエラーなしに開始されることを確認します。
索引モデルが issue の本文から書いたものです。
説明
Is there an existing issue ? / 是否已有相关的 issue ?
- I have searched, and there is no existing issue. / 我已经搜索过了,没有相关的 issue。
Describe the bug / 描述这个 bug
我运行LoRA微调命令:bash ./lora_finetune_ocnli.sh,报错:
finetune.py: error: argument --deepspeed: invalid dict value: 'configs/ds_config_zero3_offload.json'
To Reproduce / 如何复现
复现步骤:
cd MiniCPM/finetune
conda activate cpm # cpm是我为MiniCPM创建的虚拟环境
# 我已经运行此目录下pip install -r requirements.txt
bash ./lora_finetune_ocnli.sh
报如下错误:
finetune.py: error: argument --deepspeed: invalid dict value: 'configs/ds_config_zero3_offload.json'
注:我看了funetune.py文件,里面没有定义--deepspeed命令行参数。
Expected behavior / 期望的结果
可以正确启动LoRA微调过程
Screenshots / 截图
Environment / 环境
- OS: [Ubuntu 22.04]
- Pytorch: [torch 2.7.1-cu126]
- CUDA: [CUDA 12.4]
- Device: [ A100 40G 4块]
Additional context / 其他信息
No response
- 主要言語
- Jupyter Notebook
- スター
- 11.1k
- フォーク
- 766
- 平均マージ
- 5時間 3分
- マージ済み PR(30日)
- 6
環境構築
このプロジェクトの環境構築ファイルはまだ確認していません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
OpenBMB/MiniCPM のほかの issue
-
難易度 1/5 1時間未満 初心者へのやさしさ 78/100
-
難易度 5/5 1週間以上 初心者へのやさしさ 15/100
-
難易度 3/5 1〜2日 初心者へのやさしさ 55/100
-
feature
難易度 4/5 3〜5日 初心者へのやさしさ 35/100
-
難易度 3/5 1〜2日 初心者へのやさしさ 62/100
OpenBMB/MiniCPM の issue をすべて見る
似ている issue
-
IndexError: tuple index out of range in MiniMaxH3.extra_conds when an audio-only latent is passedオープン
難易度 2/5 1〜3時間 初心者へのやさしさ 84/100
メンテナーはふだん 1 日以内に返信
-
bug bughunt good first issue
難易度 2/5 1〜3時間 初心者へのやさしさ 82/100
rajveer43/VeloxQuant-MLX#657 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 90/100
Lightning-AI/torchmetrics#3534 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
microsoft/onnxruntime#32978 ·
メンテナーはふだん 2 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100