Custom `rrule` not working with ReverseDiff

Đang mở
  • Có gì không ổn?
#208 1 bình luận 1 reaction 0 người được giao Xem trên GitHub

Chưa có ai nhận issue này.

Đánh giá

Độ khó
4/5
Thời gian dự kiến
3-5 ngày
Mức phù hợp với người mới
35/100
Loại issue
Lỗi
Độ rõ ràng
Khá rõ ràng
Mức độ hoạt động
Đình trệ
Công nghệ
julia
Lĩnh vực
devtools

Hướng nghiên cứu

Bắt đầu với ví dụ Julia tối thiểu trong issue và chạy lệnh gọi ReverseDiff.gradient, đồng thời kiểm tra xem ChainRulesCore.rrule tùy chỉnh hoặc @scalar_rule có được gọi đến hay không. Theo dõi sự tương tác giữa ReverseDiff và ChainRules, và coi issue là đã được giải quyết khi đã xác định được nguyên nhân các rule bị bỏ qua và hành vi được hỗ trợ.

Do mô hình lập chỉ mục viết ra từ nội dung của issue.

Mô tả

Hello everyone,

First off, thank you all for your work on ReverseDiff.
I'm not sure whether this issue belongs here on in the ChainRules repo, so forgive me if it's not relevant here.

I have tried defining my own pullback using ChainRules, which claims to be compatible with ReverseDiff.
However, my attempts so far have been unsuccesful.

As a minimal example, take

using ChainRules, ChainRulesCore, ReverseDiff, Plots

function new_gradient(x)
    return conj((abs(x / 2) + 1)^(-2))
end

function H(a)
    return (sign(a) + 1) / 2
end

function ϕ(x)
    return H(x[1])
end

@scalar_rule ϕ(x) new_gradient(x)

function ChainRulesCore.rrule(::typeof(ϕ), x::AbstractArray)
    y = ϕ.(x)

    function array_ϕ_pullback(ȳ)
        println("Test.")
        ϕ̄ = NoTangent()
        x̄ = @thunk new_gradient.(x) * ȳ
        return ϕ̄, x̄
    end

    return y, array_ϕ_pullback
end
gradplot = let
    xs = -5:0.01:5
    vals = [ϕ(x) for x in xs]
    grads = [ReverseDiff.gradient(ϕ, [x]) for x in xs]

    p = plot(xs, vals, label = "ϕ")
    plot!(p, xs, getindex.(grads, 1), label = "∇ϕ")
    p
end

My own rrules are never called.
Have I made an elementary mistake here, or is this actually a problem with ChainRules?

Ngôn ngữ chính
Julia
Star
397
Fork
62
Merge trung bình
6 giờ 46 phút
Pull request đã merge (30 ngày)
5

Chuẩn bị môi trường

Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.

Bắt đầu từ đâu

  1. Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
  2. Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
  3. Fork repository và làm thay đổi trên một nhánh.
  4. Mở pull request có tham chiếu số hiệu của issue.

Issue khác của JuliaDiff/ReverseDiff.jl

Tất cả issue của JuliaDiff/ReverseDiff.jl

Issue tương tự

Thêm issue về Julia

Nhận issue mới trong hộp thư của bạn

Bản tóm tắt ngắn những issue GitHub phù hợp với người mới.