[BUG] KVarN assertion failure in build_inp_mem_hybrid_iswa() due to uninitialized self_kvarn_rot

オープン 初心者向け
#205 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る

まだ誰も着手していません。

評価

難易度
2/5
見積もり時間
1〜3時間
初心者へのやさしさ
68/100
issue の種類
バグ
明瞭さ
明確に書かれている
活発さ
活発
技術スタック
cpp

調査の方向性

build_attn_inp_kv_iswa() を src/llama-graph.cpp の 5320-5350 行目付近で読み、動作する KVarN 初期化を確認したうえで、5678-5685 行目付近で self_k_rot/self_v_rot だけが設定されている build_inp_mem_hybrid_iswa() と比較してください。失敗箇所は src/llama-graph.cpp:4829 のアサーションで、ハイブリッド SWA グラフでは self_kvarn_rot_* が null のままになるため発火します。説明どおりに base と swa の KVarN ブロックを移植し、その後 --cache-type-k kvarn* を指定してハイブリッド SWA モデルをビルドおよび実行し、アサーションがもう発火しないことを確認してください。

索引モデルが issue の本文から書いたものです。

説明

[BUG] KVarN asserts in build_inp_mem_hybrid_iswa() due to uninitialized self_kvarn_rot and self_kvarn_mat_idxs

Description

When running hybrid SWA models (such as Inkling-2 or any architecture built with build_inp_mem_hybrid_iswa()) with KVarN enabled (--cache-type-k kvarn*), llama_context hits an assertion during graph reservation:

src/llama-graph.cpp:4829: GGML_ASSERT(!use_kvarn_q_rot || llm_kvarn_rot_for_dim(
    inp->self_kvarn_rot_64, inp->self_kvarn_rot_128,
    inp->self_kvarn_rot_256, inp->self_kvarn_rot_512, q_cur->ne[0]) != nullptr) failed

Root Cause

In src/llama-graph.cpp:
In build_attn_inp_kv_iswa() (lines 5320–5350), self_kvarn_rot_* and self_kvarn_mat_idxs* are initialized from kvarn_base and kvarn_swa:

    inp->self_k_rot = mctx_cur->get_base()->get_k_rot();
    inp->self_v_rot = mctx_cur->get_base()->get_v_rot();
    if (const auto * kvarn_base = dynamic_cast<const llama_kv_cache_kvarn_context *>(mctx_cur->get_base())) {
        inp->self_kvarn_rot_64  = kvarn_base->build_input_kvarn_rot(ctx0, 64);
        inp->self_kvarn_rot_128 = kvarn_base->build_input_kvarn_rot(ctx0, 128);
        inp->self_kvarn_rot_256 = kvarn_base->build_input_kvarn_rot(ctx0, 256);
        inp->self_kvarn_rot_512 = kvarn_base->build_input_kvarn_rot(ctx0, 512);
        if (kvarn_base->uses_materialization_indices()) {
            inp->self_kvarn_mat_idxs = kvarn_base->build_input_kvarn_mat_idxs(ctx0);
            kvarn_base->set_mat_idxs(inp->self_kvarn_mat_idxs);
        }
    }
    // ... same for kvarn_swa ...

However, in build_inp_mem_hybrid_iswa() (lines 5678–5685), only self_k_rot and self_v_rot were initialized:

    inp_attn->self_k_rot = attn_ctx->get_base()->get_k_rot();
    inp_attn->self_v_rot = attn_ctx->get_base()->get_v_rot();

    inp_attn->self_k_rot_swa = attn_ctx->get_swa()->get_k_rot();
    inp_attn->self_v_rot_swa = attn_ctx->get_swa()->get_v_rot();

The KVarN rotation and materialization index setup was omitted, leaving all self_kvarn_rot_* pointers nullptr.

Proposed Fix

Add the matching KVarN initialization blocks for kvarn_base and kvarn_swa into build_inp_mem_hybrid_iswa() right after self_v_rot_swa:

    if (const auto * kvarn_base = dynamic_cast<const llama_kv_cache_kvarn_context *>(attn_ctx->get_base())) {
        inp_attn->self_kvarn_rot_64  = kvarn_base->build_input_kvarn_rot(ctx0, 64);
        inp_attn->self_kvarn_rot_128 = kvarn_base->build_input_kvarn_rot(ctx0, 128);
        inp_attn->self_kvarn_rot_256 = kvarn_base->build_input_kvarn_rot(ctx0, 256);
        inp_attn->self_kvarn_rot_512 = kvarn_base->build_input_kvarn_rot(ctx0, 512);
        if (kvarn_base->uses_materialization_indices()) {
            inp_attn->self_kvarn_mat_idxs = kvarn_base->build_input_kvarn_mat_idxs(ctx0);
            kvarn_base->set_mat_idxs(inp_attn->self_kvarn_mat_idxs);
        }
    }

    if (const auto * kvarn_swa = dynamic_cast<const llama_kv_cache_kvarn_context *>(attn_ctx->get_swa())) {
        if (inp_attn->self_kvarn_rot_64 == nullptr) {
            inp_attn->self_kvarn_rot_64  = kvarn_swa->build_input_kvarn_rot(ctx0, 64);
            inp_attn->self_kvarn_rot_128 = kvarn_swa->build_input_kvarn_rot(ctx0, 128);
            inp_attn->self_kvarn_rot_256 = kvarn_swa->build_input_kvarn_rot(ctx0, 256);
            inp_attn->self_kvarn_rot_512 = kvarn_swa->build_input_kvarn_rot(ctx0, 512);
        }
        inp_attn->self_kvarn_mat_idxs_swa = kvarn_swa->build_input_kvarn_mat_idxs(ctx0);
        kvarn_swa->set_mat_idxs(inp_attn->self_kvarn_mat_idxs_swa);
    }
主要言語
C++
スター
1.2k
フォーク
80
平均マージ
4日 20時間
マージ済み PR(30日)
2

環境構築

このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。

はじめの一歩

  1. issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
  2. 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
  3. リポジトリをフォークし、ブランチを切って変更します。
  4. issue 番号を参照したプルリクエストを送ります。

Anbeeld/beellama.cpp のほかの issue

Anbeeld/beellama.cpp の issue をすべて見る

似ている issue

C++ の issue をもっと見る

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。