lutzroeder/netron

GGUF support

Open

#1.209 geöffnet am 31. Dez. 2023

Auf GitHub ansehen
 (2 Kommentare) (4 Reaktionen) (0 zugewiesene Personen)JavaScript (3.101 Forks)batch import
featurehelp wanted

Repository-Metriken

Stars
 (32.743 Stars)
PR-Merge-Metriken
 (Keine gemergten PRs in 30 T)

Beschreibung

Source: gguf_init_from_file

Examples: all-MiniLM-L6-v2.F16.gguf.zip deepseek-ocr-Q4_K_M.gguf.zip Falcon-H1-Tiny-90M-Instruct-Q4_K_M.gguf.zip flan-t5-small-q2_k.gguf.zip gemma-3-1b-it-Q4_K_M.gguf.zip gemma-4-E2B-it-Q8_0.gguf.zip gpt-oss-20b-MXFP4.gguf.zip HunyuanOCR-Q8_0.gguf.zip mamba-130m-hf.Q8_0.gguf.zip Mistral-Small-4-119B-2603-IQ1_S.gguf.zip mixtral-8x7b-v0.1.Q4_K_M.gguf.zip phi-2.Q2_K.gguf.zip qwen2.5-coder-7b-instruct-q4_k_m.gguf.zip Qwen3-14B-speculator.eagle3-Q4_K_M.gguf.zip vicuna-33b.Q2_K.gguf.zip

Instructions:

  • Run ./tools/gguf sync install schema metadata for latest updates
  • If there are gguf-metadata.json changes investigate the reference implementation if related code changes are required.
  • The reference implementation is under ./third_party/source/llama.cpp
  • npm run test gguf to run test validation.

Contributor Guide

Research-Richtung
Studieren Sie die GGUF Spezifikation und den vorhandenen GGUF bezogenen Code im Repository unter `./third party/source/llama.cpp`. Führen Sie `./tools/gguf sync install schema metadata` aus, um das neueste Schema zu erhalten. Überprüfen Sie `gguf metadata.json` auf erforderliche Änderungen. Verwenden Sie `npm run test gguf`, um Tests auszuführen. Das Ziel ist die Implementierung des Parsens von GGUF Dateien, um die Modellarchitektur im Viewer anzuzeigen.
Tech Stack
javascript
Domain
machine learningbackend
Issue Type
Funktion
SchwierigkeitGeschätzte Implementierungsschwierigkeit für neue Contributors, von 1 für sehr kleine Änderungen bis 5 für Expertenarbeit.
3
Geschätzte ZeitEin grober Zeitrahmen, um zu recherchieren, zu implementieren, zu testen und einen Pull Request vorzubereiten.
Halber Tag
AktivitätsstatusWie verfügbar das Issue gerade wirkt: frisch, aktiv, stale, blockiert oder wartet auf Maintainer-Input.
Frisch
KlarheitWie klar das Issue die erwartete Änderung, Akzeptanzkriterien und den nächsten Schritt erklärt.
Klar
Voraussetzungen
GitJavaScript
EinsteigerfreundlichkeitEin Score von 1 bis 100, der schätzt, wie zugänglich dieses Issue für First-Time Contributors ist.
60