Hacktoberfest 2026: los issues que los mantenedores marcaron para octubre, abiertos y aptos para principiantes. Explorar issues de Hacktoberfest

Spike: choose the Keeper's decision model on the VM

Abierto
  • ¿Algo no está bien?
#63 0 comentarios 0 reacciones 0 asignados Ver en GitHub

Los mantenedores suelen responder en 1 día

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
4/5
Tiempo estimado
3-5 días
Aptitud para principiantes
45/100
Tipo de issue
Nueva funcionalidad
Claridad
Bien especificado
Estado de actividad
Activo
Stack tecnológico
csharp
Área
ai, performance

Línea de trabajo

Read parent issue #21 and inspect the pending and completed batches in research/batches/ to find the stored inputs and questions. Write an external replay script that sends each result to /v1/systemone and records answers, latency, and llama-server peak RAM; run it on the target VM alongside the Qwen chat model. Record the router flags in the README's local-models section and post the model, quant, measurements, and threshold estimates on #21.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

enhancement

Parent

#21

What to build

A spike on the target VM to choose the Keeper's decision model before anything is built on it. No CPU numbers are published for any candidate, and the Keeper has to share the 4-core ARM VM and llama-server with the Qwen chat model the Pleb and Clerk use.

An agent writes a small script (kept outside the app, e.g. under scripts/) that reads the real pending and completed batches in research/batches/. For each result it sends one /v1/systemone request with the questions from #21 (useful, kind, injection, quotes) and records the latency and answers. The author runs it on the VM; the steps below that need the VM are the author's.

Acceptance criteria

  • Script that replays stored batches against /v1/systemone and prints, per model, median/p95 latency, peak RAM of llama-server and the answers per result (CSV or markdown)
  • llama-server router mode serving the Qwen chat model and one Keeper candidate side by side confirmed on the VM, with the flags used recorded in the README's local-models section
  • Kev-4B Q4_K_M measured; Kev-0.8B and Laya measured if Kev-4B is too slow or doesn't fit in RAM next to Qwen
  • Decision recorded as a comment on #21: the chosen model, its quant, measured latency/RAM, and a first guess at the keep and injection thresholds from the answers

Blocked by

None - can start immediately

Lenguaje dominante
C#
Estrellas
0
Forks
0
Merge medio
40 min
PR fusionados (30 d)
47

Preparar el entorno

Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de DigiBanks99/knowledge-base

Todos los issues de DigiBanks99/knowledge-base

Issues similares

Más issues de C#

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.