`JointDistribution`s yield different PRNG behaviour on GPU and CPU

Đang mở
#1,820 0 bình luận 0 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
25/100
Loại issue
Lỗi
Độ rõ ràng
Cần làm rõ
Mức độ hoạt động
Đình trệ
Công nghệ
tensorflow
Lĩnh vực
machine-learning

Hướng nghiên cứu

Bắt đầu với Colab được liên kết và tái hiện các kết quả JointDistribution stateless PRNG trên CPU và GPU ở các chế độ Eager, Graph và XLA. Sau đó, lần theo quá trình thực thi JointDistribution* và tài liệu về stateless PRNG để xác định liệu việc sắp xếp lại các thao tác có gây ra sự khác biệt hay không. Công việc được xem là hoàn tất khi xác định được hành vi này là một bug hay cần được tài liệu hóa, kèm theo một bài kiểm thử có thể tái hiện hoặc một kỳ vọng được tài liệu hóa rõ ràng.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Hi All,

I noticed recently that stateless PRNG behaviour for JointDistribution* objects appear to do different things depending on whether random numbers are generated on GPU or CPU. This is demonstrated this Colab.

This appears to go against the assertions in the tf.random.stateless_* documentation that suggests that PRNG behaviour should be consistent across CPU and GPU devices. I guess that there may be reordering of operations within the JointDistribution* logic, but perhaps this should be documented?

Regards,

Chris

[edit] interestingly, this seems relevant only to Eager and Graph mode. XLA mode appears consistent.

Ngôn ngữ chính
Jupyter Notebook
Star
4.4k
Fork
1.1k
Chỉ số merge pull request
Không có pull request nào được merge trong 30 ngày

Chuẩn bị môi trường

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của tensorflow/probability

Tất cả issue của tensorflow/probability

Issue tương tự

Thêm issue về Machine Learning

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.