[Engine] STRATA_VERIFY_DEVICE_PLAN: layer 1 can copy the previous window's PLE rows (non-deterministic replies)
メンテナーはふだん 6 日以内に返信
まだ誰も着手していません。
評価
調査の方向性
engine/src/core/verify.cpp を開き、1527行目付近の Verifier::record_window を見つけてください。ここではレイヤー1のPLEコピーが ar_on() によって保護されています。doorbellグラフにおけるレイヤー0のホスト待機がそのコピーをどう順序付けているかを読み、デバイス計画パスで待機しない点と比較してください。device_plan_ が設定されているときにも待機が発生するよう、1行の変更を適用してください。STRATA_VERIFY_DEVICE_PLAN=1 を指定してgreedyプロンプトを2回実行し、出力が一致することを確認して完了としてください。
索引モデルが issue の本文から書いたものです。
説明
Problem
With STRATA_VERIFY_DEVICE_PLAN=1 (E-6), greedy replies on my Tesla V100 differed from run to run. They also
differed from the doorbell graph's replies with the same settings. I saw this on 0.2.12 (CUDA). The code below is
unchanged in 0.2.16.
Cause
In Verifier::record_window (engine/src/core/verify.cpp, 0.2.16 line 1527), layer 1's PLE copy waits for the host
only when ar_on():
if (l == 1 && ple_on) {
if (grp == 0) {
if (ar_on()) wait_flag_ge(m_flag_, 1, cs);
copy_from_mapped(ple_, m_ple_, (int64_t) T * N, cs);
In the doorbell graph, layer 0's own wait on the host orders this copy after the host has gathered the PLE rows
(the host does that during its step 0, before it raises flag 1). A device-planned layer 0 does not wait for the host
at all. So the copy can read m_ple_ before the host has written this window's rows, and it gets the previous
window's rows.
Fix
The same wait when the device plans the layer:
if (ar_on() || device_plan_) wait_flag_ge(m_flag_, 1, cs);
Commit with only this change (one line + a comment):
https://github.com/ksooad/Strata/commit/0b65aa8cc
Validation
- Tesla V100-SXM2-32GB, 0.2.12, Qwen3.8-Flash-Next UD-Q3_K_XL,
--adapt-swaps 0 --pcie-frac 0(deterministic engine).
Before the fix, the greedy texts of a fixed prompt set (6 prompts, 400 tokens) differed from run to run with
STRATA_VERIFY_DEVICE_PLAN=1. After the fix they were identical between runs. - Not run: 0.2.16 with
STRATA_VERIFY_DEVICE_PLAN=1and without the fix. Only the code was compared, and the line is
unchanged. Also not run: any SYCL build.
- 主要言語
- C++
- スター
- 11.6k
- フォーク
- 1k
- 平均マージ
- 18日 13時間
- マージ済み PR(30日)
- 4
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
Niko1221/Strata のほかの issue
-
needs-format
難易度 2/5 1〜3時間 初心者へのやさしさ 72/100
Niko1221/Strata#6475 · コメント 1 件 ·
メンテナーはふだん 6 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 70/100
メンテナーはふだん 6 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 85/100
Niko1221/Strata#6456 · コメント 2 件 ·
メンテナーはふだん 6 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 68/100
メンテナーはふだん 6 日以内に返信
-
needs-format
難易度 2/5 半日 初心者へのやさしさ 72/100
Niko1221/Strata#6371 · コメント 1 件 ·
メンテナーはふだん 6 日以内に返信
Niko1221/Strata の issue をすべて見る
似ている issue
-
Refactor kinematic_links integration test to use EcmScope対応中かも @patelshivani2283-lab が今日担当しました。 オープン
難易度 2/5 1〜3時間 初心者へのやさしさ 78/100
メンテナーはふだん 1 日以内に返信
-
good first issue help wanted
難易度 2/5 1〜3時間 初心者へのやさしさ 79/100
-
難易度 1/5 1時間未満 初心者へのやさしさ 85/100
eclipse-score/lifecycle#1061 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 80/100
メンテナーはふだん 1 日以内に返信
-
area/build-framework kind/enhancement priority/low
難易度 2/5 1〜3時間 初心者へのやさしさ 77/100
yugabyte/yugabyte-db#38826 ·
メンテナーはふだん 1 日以内に返信