Hacktoberfest 2026: le issue che i maintainer hanno segnato per ottobre, aperte e adatte ai principianti. Sfoglia le issue Hacktoberfest

[gemma3n] Split into its own family module + conformance (postponed)

Aperta
  • Qualcosa non va?
#377 2 commenti 0 reazioni 0 assegnatari Vedi su GitHub

I maintainer di solito rispondono entro 1 giorno

Nessuno ha ancora preso questa issue.

Valutazione

Difficoltà
5/5
Tempo stimato
Più di una settimana
Idoneità per principianti
25/100
Tipo di issue
Refactoring
Chiarezza
Abbastanza chiara
Stato di attività
Tranquilla
Stack tecnologico
kotlin
Ambito
backend, machine-learning

Direzione di ricerca

Read #346 for the module split template and #374 for the Gemma sweep that leaves Gemma 3n untouched. The issue names llm-inference/gemma, Gemma3nIngestion, and the kgemma CLI as the current code and consumer; begin by tracing that consumer and the Gemma3n* runtime, loader, and cache. Done means the family is split into the named modules, the DSL or hand-rolled runtime approach is decided, packed loading works, and the maturity gate passes.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Descrizione

Postponed marker (like qwen's #352 lane) — descoped from the llama+gemma conformance release by decision.

Gemma 3n is effectively its own family living inside llm-inference/gemma: hand-rolled Gemma3nRuntime/Gemma3nAttentionBackend/Gemma3nKvCache (never touches gemmaNetwork()), own loaders, AltUp/ActivationSparsity ops — ~2000 LOC with exactly one external consumer (Gemma3nIngestion → kgemma CLI). Its engine delegation still has the defect fixed for gemma4: Gemma3nWeightLoader forces token_embd → GEMMA_DEQUANTIZE_ALL and Gemma3nLoadConfig dequantizes the whole model because the hand-rolled runtime can't consume packed tensors. Maturity gate: 0/5.

When picked up:

  • Move Gemma3n* + AltUp + ActivationSparsity + the gemma-module AttentionBackend into llm-inference/gemma3n (+ llm-runtime/kgemma3n facade), per the #346 template — mechanical, one consumer
  • Decide DSL migration vs documented Option-B hand-rolled runtime (AltUp/PLE/sparsity are the DSL-expressibility question)
  • Packed loading (kill the dense-FP32-everything default)
  • Maturity gate (golden parity, model-gated smoke, entry-point parity)

Refs: #346, #374 (the gemma sweep that leaves 3n untouched).

Lingua principale
Kotlin
Stelle
8
Fork
3
Merge medio
19h 45m
PR unite (30g)
38

Preparare l'ambiente

Questo progetto non fornisce container di sviluppo, Dockerfile né guida per i contributori, quindi l'ambiente è a tuo carico: parti dal suo README e consulta la nostra guida al primo contributo per i passaggi generali.

Come iniziare

  1. Leggi tutta la issue e poi la guida ai contributi del progetto.
  2. Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
  3. Fai un fork del repository e lavora su un branch.
  4. Apri una pull request che faccia riferimento al numero della issue.

Altre issue di SKaiNET-developers/SKaiNET-transformers

Tutte le issue di SKaiNET-developers/SKaiNET-transformers

Issue simili

Altre issue su Kotlin

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.