[BUG] KVarN assertion failure in build_inp_mem_hybrid_iswa() due to uninitialized self_kvarn_rot

未关闭 适合新手
#205 0 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看

还没有人认领这个 Issue。

评估

难度
2/5
预计耗时
1-3 小时
新手友好度
68/100
Issue 类型
缺陷
描述清晰度
描述清楚
活跃度
活跃
技术栈
cpp

调研方向

阅读 build_attn_inp_kv_iswa()(位于 src/llama-graph.cpp 第 5320-5350 行附近),了解可用的 KVarN 初始化,然后将其与 build_inp_mem_hybrid_iswa()(位于第 5678-5685 行附近)进行比较,后者只设置了 self_k_rot/self_v_rot。失败位置是 src/llama-graph.cpp:4829 处的断言,它会被触发,因为对于混合 SWA 图,self_kvarn_rot_* 保持为 null。按描述移植 base 和 swa 的 KVarN 代码块,然后使用 --cache-type-k kvarn* 构建并运行一个混合 SWA 模型,以确认该断言不再触发。

由索引模型根据 Issue 内容生成。

描述

[BUG] KVarN asserts in build_inp_mem_hybrid_iswa() due to uninitialized self_kvarn_rot and self_kvarn_mat_idxs

Description

When running hybrid SWA models (such as Inkling-2 or any architecture built with build_inp_mem_hybrid_iswa()) with KVarN enabled (--cache-type-k kvarn*), llama_context hits an assertion during graph reservation:

src/llama-graph.cpp:4829: GGML_ASSERT(!use_kvarn_q_rot || llm_kvarn_rot_for_dim(
    inp->self_kvarn_rot_64, inp->self_kvarn_rot_128,
    inp->self_kvarn_rot_256, inp->self_kvarn_rot_512, q_cur->ne[0]) != nullptr) failed

Root Cause

In src/llama-graph.cpp:
In build_attn_inp_kv_iswa() (lines 5320–5350), self_kvarn_rot_* and self_kvarn_mat_idxs* are initialized from kvarn_base and kvarn_swa:

    inp->self_k_rot = mctx_cur->get_base()->get_k_rot();
    inp->self_v_rot = mctx_cur->get_base()->get_v_rot();
    if (const auto * kvarn_base = dynamic_cast<const llama_kv_cache_kvarn_context *>(mctx_cur->get_base())) {
        inp->self_kvarn_rot_64  = kvarn_base->build_input_kvarn_rot(ctx0, 64);
        inp->self_kvarn_rot_128 = kvarn_base->build_input_kvarn_rot(ctx0, 128);
        inp->self_kvarn_rot_256 = kvarn_base->build_input_kvarn_rot(ctx0, 256);
        inp->self_kvarn_rot_512 = kvarn_base->build_input_kvarn_rot(ctx0, 512);
        if (kvarn_base->uses_materialization_indices()) {
            inp->self_kvarn_mat_idxs = kvarn_base->build_input_kvarn_mat_idxs(ctx0);
            kvarn_base->set_mat_idxs(inp->self_kvarn_mat_idxs);
        }
    }
    // ... same for kvarn_swa ...

However, in build_inp_mem_hybrid_iswa() (lines 5678–5685), only self_k_rot and self_v_rot were initialized:

    inp_attn->self_k_rot = attn_ctx->get_base()->get_k_rot();
    inp_attn->self_v_rot = attn_ctx->get_base()->get_v_rot();

    inp_attn->self_k_rot_swa = attn_ctx->get_swa()->get_k_rot();
    inp_attn->self_v_rot_swa = attn_ctx->get_swa()->get_v_rot();

The KVarN rotation and materialization index setup was omitted, leaving all self_kvarn_rot_* pointers nullptr.

Proposed Fix

Add the matching KVarN initialization blocks for kvarn_base and kvarn_swa into build_inp_mem_hybrid_iswa() right after self_v_rot_swa:

    if (const auto * kvarn_base = dynamic_cast<const llama_kv_cache_kvarn_context *>(attn_ctx->get_base())) {
        inp_attn->self_kvarn_rot_64  = kvarn_base->build_input_kvarn_rot(ctx0, 64);
        inp_attn->self_kvarn_rot_128 = kvarn_base->build_input_kvarn_rot(ctx0, 128);
        inp_attn->self_kvarn_rot_256 = kvarn_base->build_input_kvarn_rot(ctx0, 256);
        inp_attn->self_kvarn_rot_512 = kvarn_base->build_input_kvarn_rot(ctx0, 512);
        if (kvarn_base->uses_materialization_indices()) {
            inp_attn->self_kvarn_mat_idxs = kvarn_base->build_input_kvarn_mat_idxs(ctx0);
            kvarn_base->set_mat_idxs(inp_attn->self_kvarn_mat_idxs);
        }
    }

    if (const auto * kvarn_swa = dynamic_cast<const llama_kv_cache_kvarn_context *>(attn_ctx->get_swa())) {
        if (inp_attn->self_kvarn_rot_64 == nullptr) {
            inp_attn->self_kvarn_rot_64  = kvarn_swa->build_input_kvarn_rot(ctx0, 64);
            inp_attn->self_kvarn_rot_128 = kvarn_swa->build_input_kvarn_rot(ctx0, 128);
            inp_attn->self_kvarn_rot_256 = kvarn_swa->build_input_kvarn_rot(ctx0, 256);
            inp_attn->self_kvarn_rot_512 = kvarn_swa->build_input_kvarn_rot(ctx0, 512);
        }
        inp_attn->self_kvarn_mat_idxs_swa = kvarn_swa->build_input_kvarn_mat_idxs(ctx0);
        kvarn_swa->set_mat_idxs(inp_attn->self_kvarn_mat_idxs_swa);
    }
主要语言
C++
星标
1.2k
派生
80
平均合并
4 天 20 小时
30 天内合并 PR
2

环境准备

这个项目没有提供开发容器、Dockerfile 或贡献指南,环境需要你自己搭建:先看它的 README,通用步骤见我们的新手贡献指南。

从这里开始

  1. 先读完整个 Issue,再读项目的贡献指南。
  2. 在 Issue 下留言说明你要接手 —— 这能避免两个人做同样的事。
  3. Fork 仓库,在一个分支上完成修改。
  4. 提交 Pull Request,并在描述里引用这个 Issue 编号。

Anbeeld/beellama.cpp 的其他 Issue

查看 Anbeeld/beellama.cpp 的全部 Issue

相似的 Issue

更多 C++ Issue

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。