microsoft/nni

Does nni contain some new pruning base methods？

Open

#4.567 aberto em 21 de fev. de 2022

Ver no GitHub
 (6 comments) (0 reactions) (1 assignee)Python (13.504 stars) (1.830 forks)batch import
good first issuemodel compressionnew feature

Description

Describe the issue: Sorry to bother you, in nni, the current basic pruning strategies are Norm, FPGM, ActivationPruner, TaylorFOWeightPruner, etc. Are there other basic strategies, such as HRank, if I want to add it myself, where do I need to rewrite it?

Environment:

  • NNI version: V2.6
  • Training service (local|remote|pai|aml|etc): local
  • Client OS: linux
  • Server OS (for remote mode only):
  • Python version: 3.8
  • PyTorch/TensorFlow version: pytorch1.8
  • Is conda/virtualenv/venv used?: conda
  • Is running in Docker?: no

How to reproduce it?:

Guia do colaborador

Pilha de tecnologia
pythonpytorch
Domain
machine learningtooling
Tipo Issue
research
DifficultyDificuldade de implementação estimada para um novo contribuidor, de 1 para alterações muito pequenas a 5 para trabalho de nível especializado.
3
Tempo estimadoUm intervalo de tempo aproximado para um colaborador experiente investigar, implementar, testar e preparar um pull request.
1-3 hours
Status da atividadeQuão disponível o issue aparece agora: novo, ativo, obsoleto, bloqueado ou aguardando entrada do mantenedor.
stale
ClarityCom que clareza o issue explica a mudança esperada, os critérios de aceitação e a próxima etapa.
mostly clear
Prerequisites
Familiarity with NNI pruning moduleBasic PyTorch knowledge
Simpatia para novatosUma pontuação de 1 a 100 que estima o quão acessível este issue é para colaboradores iniciantes.
30
Direção de pesquisa
The issue asks about adding a new pruning method (e.g., HRank) to NNI. The user wants to know which base class to extend and where to implement it. Refer to the abstract pruner in nni/compression/pytorch/pruning/basic pruner.py and the existing pruners like NormPruner. The research should explore how to create a new pruner class that inherits from the base and registers it. Also check the latest NNI documentation and examples for custom pruners.