Missing semi-supervised training components for PATE

Abierto
  • ¿Algo no está bien?
#164 1 comentario 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Evaluación

Dificultad
5/5
Tiempo estimado
Más de una semana
Aptitud para principiantes
35/100
Tipo de issue
Nueva funcionalidad
Claridad
Necesita aclaración
Estado de actividad
Estancado
Stack tecnológico
python, tensorflow
Área
machine-learning, security

Línea de trabajo

Comienza con la ruta de entrenamiento del estudiante en privacy/research/pate_2018 y compárala con los métodos semi-supervised GAN y VAT descritos en los artículos enlazados de Papernot et al. El bucle de entrenamiento personalizado de TensorFlow 2.4 es material de referencia adicional; para darlo por terminado sería necesaria una implementación o parámetros concretos que reproduzcan los resultados publicados en SVHN.

Escrito por el modelo de indexación a partir del texto del issue.

Descripción

Hello,
I am currently trying to reproduce the results for training PATE on SVHN for "Scalabe Private Learning with PATE" (Papernot et al.) with the code given in privacy/research/pate_2018.
I succed up to the point of student training, with teachers having a comparable accuracy and generating a comparable amount of labels with similar privacy budget.

The issues I face come up when trying to applying the semi-supervised training step described by the authors.
That is, the GAN based approache in their Papernot et al. 2017 and Virtual Adversarial Training (VAT) for the current paper.
For both approaches, an implementation seems to be missing in the given code for PATE.
Without semi-supervised learning, my results for a model trained on SVHN with parameters given by the 2018 paper show a clear gap to the presented results (around 6% acc at least).

I tried to implement a custom train-loop for semi-supervised learning with VAT in TensorFlow 2.4, following the paper on VAT Miyato et al..
Sadly, the but results are worse than without using it and simply training on a very small train dataset.

My question is: Can you point me to an implementation of the GAN/VAT based semi-supervised training method that was used to produce the results?
Or could you otherwise give me details on parameters / implementation details that are needed to make the semi-supervised training work with PATE?
That would be great, thanks a lot in advance.

Lenguaje dominante
Python
Estrellas
2k
Forks
477
Merge medio
17 h 24 min
PR fusionados (30 d)
4

Preparar el entorno

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Más de tensorflow/privacy

Todos los issues de tensorflow/privacy

Issues similares

Más issues de Python

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.