lutzroeder/netron

GGUF support

Fechada

#1.209 aberto em 31 de dez. de 2023

Ver no GitHubGuia do colaborador
 (2 comentários) (4 reações) (0 responsável)JavaScript (3.101 forks)batch import
featurehelp wanted

Métricas do repositório

Stars
 (32.743 estrelas)
Métricas de merge de PR
 (Métricas PR pendentes)

Description

Source: gguf_init_from_file

Examples: all-MiniLM-L6-v2.F16.gguf.zip deepseek-ocr-Q4_K_M.gguf.zip DeepSeek-V4-Flash-Q2-0731.gguf.zip Falcon-H1-Tiny-90M-Instruct-Q4_K_M.gguf.zip flan-t5-small-q2_k.gguf.zip gemma-3-1b-it-Q4_K_M.gguf.zip gemma-4-E2B-it-Q8_0.gguf.zip gpt-oss-20b-MXFP4.gguf.zip HunyuanOCR-Q8_0.gguf.zip Kimi-K3-UD-Q8_K_XL.gguf.zip mamba-130m-hf.Q8_0.gguf.zip Mistral-Small-4-119B-2603-IQ1_S.gguf.zip mixtral-8x7b-v0.1.Q4_K_M.gguf.zip phi-2.Q2_K.gguf.zip qwen2.5-coder-7b-instruct-q4_k_m.gguf.zip Qwen3-14B-speculator.eagle3-Q4_K_M.gguf.zip vicuna-33b.Q2_K.gguf.zip

Instructions:

  • Run ./tools/gguf sync install schema metadata for latest updates
  • If there are gguf-metadata.json changes investigate the reference implementation if related code changes are required.
  • The reference implementation is under ./third_party/source/llama.cpp
  • npm run test gguf to run test validation.

Guia do colaborador

Direção de pesquisa
Estude a especificação GGUF e o código existente relacionado ao GGUF no repositório em `./third party/source/llama.cpp`. Execute `./tools/gguf sync install schema metadata` para obter o esquema mais recente. Revise `gguf metadata.json` para quaisquer alterações necessárias. Use `npm run test gguf` para executar os testes. O objetivo é implementar a análise de arquivos GGUF para exibir a arquitetura do modelo no visualizador.
Pilha de tecnologia
javascript
Domain
machine learningbackend
Tipo Issue
Funcionalidade
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
Meio dia
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
Recente
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
Claro
Prerequisites
GitJavaScript
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
60