Hacktoberfest 2026: những issue maintainer đã đánh dấu cho tháng Mười, đang mở và phù hợp người mới. Xem issue Hacktoberfest

Spike: choose the Keeper's decision model on the VM

Đang mở
  • Có gì không ổn?
#63 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Maintainer thường phản hồi trong vòng 1 ngày

Chưa có ai nhận issue này.

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
45/100
Loại issue
Tính năng
Độ rõ ràng
Đặc tả rõ ràng
Mức độ hoạt động
Sôi nổi
Công nghệ
csharp
Lĩnh vực
ai, performance

Hướng nghiên cứu

Read parent issue #21 and inspect the pending and completed batches in research/batches/ to find the stored inputs and questions. Write an external replay script that sends each result to /v1/systemone and records answers, latency, and llama-server peak RAM; run it on the target VM alongside the Qwen chat model. Record the router flags in the README's local-models section and post the model, quant, measurements, and threshold estimates on #21.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

enhancement

Parent

#21

What to build

A spike on the target VM to choose the Keeper's decision model before anything is built on it. No CPU numbers are published for any candidate, and the Keeper has to share the 4-core ARM VM and llama-server with the Qwen chat model the Pleb and Clerk use.

An agent writes a small script (kept outside the app, e.g. under scripts/) that reads the real pending and completed batches in research/batches/. For each result it sends one /v1/systemone request with the questions from #21 (useful, kind, injection, quotes) and records the latency and answers. The author runs it on the VM; the steps below that need the VM are the author's.

Acceptance criteria

  • Script that replays stored batches against /v1/systemone and prints, per model, median/p95 latency, peak RAM of llama-server and the answers per result (CSV or markdown)
  • llama-server router mode serving the Qwen chat model and one Keeper candidate side by side confirmed on the VM, with the flags used recorded in the README's local-models section
  • Kev-4B Q4_K_M measured; Kev-0.8B and Laya measured if Kev-4B is too slow or doesn't fit in RAM next to Qwen
  • Decision recorded as a comment on #21: the chosen model, its quant, measured latency/RAM, and a first guess at the keep and injection thresholds from the answers

Blocked by

None - can start immediately

Ngôn ngữ chính
C#
Star
0
Fork
0
Merge trung bình
40 phút
Pull request đã merge (30 ngày)
47

Chuẩn bị môi trường

Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của DigiBanks99/knowledge-base

Tất cả issue của DigiBanks99/knowledge-base

Issue tương tự

Thêm issue về C#

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.