Potential bug in rdp analysis

Đang mở
  • Có gì không ổn?
#166 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
35/100
Loại issue
Lỗi
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Đình trệ
Công nghệ
python, tensorflow
Lĩnh vực
machine-learning, security

Hướng nghiên cứu

Bắt đầu với tensorflow_privacy/privacy/analysis/rdp_accountant.py tại dòng được liên kết, xung quanh phần xử lý RDP nhỏ, sau đó chạy ví dụ compute_rdp và get_privacy_spent của issue với các bậc bao gồm 1 + 1e-8. Hoàn tất khi trường hợp alpha nhỏ báo cáo một epsilon khác 0, nhất quán với cùng phép tính khi không có bậc đó, mà không làm thay đổi ngoài dự kiến các giá trị được báo cáo khác.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Hello !
I'm getting suspicious results when computing epsilon with small alphas.
For example with the code:

from tensorflow_privacy.privacy.analysis.rdp_accountant import compute_rdp
from tensorflow_privacy.privacy.analysis.rdp_accountant import get_privacy_spent

noise_multiplier = 1
batch_size = 105
steps = 1
delta = 1e-3

orders = [1 + 1e-8] + [1 + x / 10. for x in range(1, 100)] + list(range(12, 64))
sampling_probability = batch_size / 100000
rdp = compute_rdp(
    q=sampling_probability,
    noise_multiplier=noise_multiplier,
    steps=steps,
    orders=orders
)
print(get_privacy_spent(orders, rdp, target_delta=delta))  # returns (0, 0.001, 1.00000001)

The privacy spent should be small but not zero. When I remove (1 + 1e-8) of orders, I get the correct answer.
I tracked down this behavior to this line, which puts epsilon to zero for sufficiently small rdp, but I'm not sure why...

Ngôn ngữ chính
Python
Star
2k
Fork
477
Merge trung bình
17 giờ 24 phút
Pull request đã merge (30 ngày)
4

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của tensorflow/privacy

Tất cả issue của tensorflow/privacy

Issue tương tự

Thêm issue về Python

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.