zero3 and enable hybrid engine are not suitable for llama2, how to solve it?

評価

調査の方向性

説明

In my experiment, I found that if I use zero3 and enable hybrid engine setting, the Actor will generate repeat token or nothing during stage 3 (PPO) training. Here is an example:

Besides, I took some other experiments:
Experiment 1: use the zero2 and enable hybrid engine, which is fine.

Experiment 2: use the zero3 and disenable hybrid engine, which is fine.

Experiment 3: I tested the OPT model, which is fine in zero3, and enable hybrid engine setting.

I'm confused by this phenomenon and want to know how to fix it. That said, due to time and GPU memory constraints, I want to use zero3 and enable hybrid engine settings.

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

はじめの一歩

1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
3. リポジトリをフォークし、ブランチを切って変更します。
4. issue 番号を参照したプルリクエストを送ります。

deepspeedai/DeepSpeedExamples のほかの issue

• Compute_rewards in PPO:rewards[j, start:ends[j]][-1] += reward_clip[j] is wrong オープン

  難易度 2/5 1〜3時間 初心者へのやさしさ 52/100

  deepspeedai/DeepSpeedExamples#996 · 2025年12月22日 に作成

• Step1 failed when I run "bash training_scripts/opt/single_gpu/run_1.3b.sh" オープン

  難易度 4/5 3〜5日 初心者へのやさしさ 25/100

  deepspeedai/DeepSpeedExamples#995 · 2025年12月16日 に作成

• One example, multiple config files オープン

  難易度 2/5 1〜3時間 初心者へのやさしさ 52/100

  deepspeedai/DeepSpeedExamples#989 · 2025年9月8日 に作成

• moe example 404 オープン

  難易度 4/5 3〜5日 初心者へのやさしさ 25/100

  deepspeedai/DeepSpeedExamples#984 · 2025年7月25日 に作成

• Possible to include an example of DeepNVMe + state dict オープン

  難易度 4/5 3〜5日 初心者へのやさしさ 42/100

  deepspeedai/DeepSpeedExamples#979 · コメント 6 件 · 2025年6月19日 に作成

deepspeedai/DeepSpeedExamples の issue をすべて見る

似ている issue

• validate-structure inspecte challenge/work/.terraform et rend faux les labs qui ont un provider en cache オープン
  bug

  難易度 2/5 1〜3時間 初心者へのやさしさ 75/100

  stephrobert/dsoxlab#238 · 2026年9月24日 に作成

• Uniform probability densities use the upper bound as an interval width オープン

  難易度 2/5 1〜3時間 初心者へのやさしさ 75/100

  nasa/fmdtools#40 · 2026年9月24日 に作成

• _common_folder() treats a single file as the common folder; single-file archives can't be installed (4.2.8) / crash (master) オープン

  難易度 2/5 1〜3時間 初心者へのやさしさ 75/100

  sublimehq/package_control#1780 · 2026年9月24日 に作成

• Set 'Sample' input in 'autorun.py' to utilize 'Sample' Tab in eLog オープン

  難易度 2/5 1〜3時間 初心者へのやさしさ 65/100

  pcdshub/mfx#309 · コメント 2 件 · 2026年9月24日 に作成

• niri config file addition does not respect existing optional include オープン

  難易度 2/5 1〜3時間 初心者へのやさしさ 70/100

  nwg-piotr/nwg-displays#145 · 2026年9月24日 に作成

Python の issue をもっと見る