[BUG] KVarN assertion failure in build_inp_mem_hybrid_iswa() due to uninitialized self_kvarn_rot

Abierto Apto para principiantes
#205 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
2/5
Tiempo estimado
1-3 horas
Aptitud para principiantes
68/100
Tipo de issue
Error
Claridad
Bien especificado
Estado de actividad
Activo
Stack tecnológico
cpp

Línea de trabajo

Lee build_attn_inp_kv_iswa() alrededor de las líneas 5320-5350 de src/llama-graph.cpp para ver la inicialización de KVarN que funciona, y luego compárala con build_inp_mem_hybrid_iswa() alrededor de las líneas 5678-5685, donde solo se establecen self_k_rot/self_v_rot. El punto de fallo es la aserción en src/llama-graph.cpp:4829, que se dispara porque self_kvarn_rot_* permanecen nulos para los grafos híbridos con SWA. Porta los bloques KVarN base y swa como se describe, y luego compila y ejecuta un modelo híbrido con SWA con --cache-type-k kvarn* para confirmar que la aserción ya no se dispara.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

[BUG] KVarN asserts in build_inp_mem_hybrid_iswa() due to uninitialized self_kvarn_rot and self_kvarn_mat_idxs

Description

When running hybrid SWA models (such as Inkling-2 or any architecture built with build_inp_mem_hybrid_iswa()) with KVarN enabled (--cache-type-k kvarn*), llama_context hits an assertion during graph reservation:

src/llama-graph.cpp:4829: GGML_ASSERT(!use_kvarn_q_rot || llm_kvarn_rot_for_dim(
    inp->self_kvarn_rot_64, inp->self_kvarn_rot_128,
    inp->self_kvarn_rot_256, inp->self_kvarn_rot_512, q_cur->ne[0]) != nullptr) failed

Root Cause

In src/llama-graph.cpp:
In build_attn_inp_kv_iswa() (lines 5320–5350), self_kvarn_rot_* and self_kvarn_mat_idxs* are initialized from kvarn_base and kvarn_swa:

    inp->self_k_rot = mctx_cur->get_base()->get_k_rot();
    inp->self_v_rot = mctx_cur->get_base()->get_v_rot();
    if (const auto * kvarn_base = dynamic_cast<const llama_kv_cache_kvarn_context *>(mctx_cur->get_base())) {
        inp->self_kvarn_rot_64  = kvarn_base->build_input_kvarn_rot(ctx0, 64);
        inp->self_kvarn_rot_128 = kvarn_base->build_input_kvarn_rot(ctx0, 128);
        inp->self_kvarn_rot_256 = kvarn_base->build_input_kvarn_rot(ctx0, 256);
        inp->self_kvarn_rot_512 = kvarn_base->build_input_kvarn_rot(ctx0, 512);
        if (kvarn_base->uses_materialization_indices()) {
            inp->self_kvarn_mat_idxs = kvarn_base->build_input_kvarn_mat_idxs(ctx0);
            kvarn_base->set_mat_idxs(inp->self_kvarn_mat_idxs);
        }
    }
    // ... same for kvarn_swa ...

However, in build_inp_mem_hybrid_iswa() (lines 5678–5685), only self_k_rot and self_v_rot were initialized:

    inp_attn->self_k_rot = attn_ctx->get_base()->get_k_rot();
    inp_attn->self_v_rot = attn_ctx->get_base()->get_v_rot();

    inp_attn->self_k_rot_swa = attn_ctx->get_swa()->get_k_rot();
    inp_attn->self_v_rot_swa = attn_ctx->get_swa()->get_v_rot();

The KVarN rotation and materialization index setup was omitted, leaving all self_kvarn_rot_* pointers nullptr.

Proposed Fix

Add the matching KVarN initialization blocks for kvarn_base and kvarn_swa into build_inp_mem_hybrid_iswa() right after self_v_rot_swa:

    if (const auto * kvarn_base = dynamic_cast<const llama_kv_cache_kvarn_context *>(attn_ctx->get_base())) {
        inp_attn->self_kvarn_rot_64  = kvarn_base->build_input_kvarn_rot(ctx0, 64);
        inp_attn->self_kvarn_rot_128 = kvarn_base->build_input_kvarn_rot(ctx0, 128);
        inp_attn->self_kvarn_rot_256 = kvarn_base->build_input_kvarn_rot(ctx0, 256);
        inp_attn->self_kvarn_rot_512 = kvarn_base->build_input_kvarn_rot(ctx0, 512);
        if (kvarn_base->uses_materialization_indices()) {
            inp_attn->self_kvarn_mat_idxs = kvarn_base->build_input_kvarn_mat_idxs(ctx0);
            kvarn_base->set_mat_idxs(inp_attn->self_kvarn_mat_idxs);
        }
    }

    if (const auto * kvarn_swa = dynamic_cast<const llama_kv_cache_kvarn_context *>(attn_ctx->get_swa())) {
        if (inp_attn->self_kvarn_rot_64 == nullptr) {
            inp_attn->self_kvarn_rot_64  = kvarn_swa->build_input_kvarn_rot(ctx0, 64);
            inp_attn->self_kvarn_rot_128 = kvarn_swa->build_input_kvarn_rot(ctx0, 128);
            inp_attn->self_kvarn_rot_256 = kvarn_swa->build_input_kvarn_rot(ctx0, 256);
            inp_attn->self_kvarn_rot_512 = kvarn_swa->build_input_kvarn_rot(ctx0, 512);
        }
        inp_attn->self_kvarn_mat_idxs_swa = kvarn_swa->build_input_kvarn_mat_idxs(ctx0);
        kvarn_swa->set_mat_idxs(inp_attn->self_kvarn_mat_idxs_swa);
    }
Lenguaje dominante
C++
Estrellas
1.2k
Forks
80
Merge medio
4 d 20 h
PR fusionados (30 d)
2

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de Anbeeld/beellama.cpp

Todos los issues de Anbeeld/beellama.cpp

Issues similares

Más issues de C++

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.