Error with Turing and ReverseDiff, adding matrices
Maintainer thường phản hồi trong vòng 1 ngày
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 4/5
- Thời gian dự kiến
- 3-5 ngày
- Mức phù hợp với người mới
- 45/100
Hướng nghiên cứu
Chạy Julia MWE và kiểm tra đường dẫn bị lỗi của phép cộng ma trận trong ReverseDiff/src/derivatives/propagation.jl và src/derivatives/linalg/arithmetic.jl, đặc biệt là increment_deriv! và special_reverse_exec!. So sánh các tổ hợp ma trận hoạt động được và bị lỗi, sau đó xác minh rằng mô hình Turing lấy mẫu thành công với ReverseDiff mà không gặp MethodError đã được báo cáo.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
Hi -
I've been using ReverseDiff to run some models in Turing, and it appears a recent change from v1.7 to 1.8 has made my models stop working. I managed to narrow down the issue to a single line in the model, where I try to add two matrices. Oddly, it only seems to be an issue with particular combinations of matrices, but I'm not seeing the pattern, so I'm not sure what the problem is.
See MWE below:
using Turing, ReverseDiff
@model function efa(P)
λ ~ filldist(Normal(0, 10), P, 1)
Ψ ~ filldist(truncated(Normal(0, 5), 0, Inf), P)
f_var ~ filldist(truncated(Normal(0, 5), 0, Inf), 1)
Σ1 = λ * f_var * λ' + Diagonal(Ψ) # Fails
# Σ1 = λ * f_var * λ' + diagm(Ψ) # Fails
# Σ1 = randn(P, P) + Diagonal(Ψ) # Works
# Σ1 = λ * f_var * λ' + randn(P, P) # Works
# Σ1 = λ * f_var * λ' + Diagonal(ones(P)) # Works
end
Turing.setadbackend(:reversediff)
efa_test = efa(3)
@time m1 = sample(efa_test, NUTS(1, 0.65), MCMCThreads(), 1, 4)
Running this gives an error like this (only the first few lines of the stacktrace shown):
nested task error: MethodError: no method matching increment_deriv!(::Float64, ::Float64)
Closest candidates are:
increment_deriv!(::ReverseDiff.TrackedArray, ::Real, ::Any) at C:\Users\opus\.julia\packages\ReverseDiff\60noS\src\derivatives\propagation.jl:34
increment_deriv!(::AbstractArray, ::Real, ::Any) at C:\Users\opus\.julia\packages\ReverseDiff\60noS\src\derivatives\propagation.jl:36
increment_deriv!(::AbstractArray, ::Any) at C:\Users\opus\.julia\packages\ReverseDiff\60noS\src\derivatives\propagation.jl:38
...
Stacktrace:
[1] increment_deriv!
@ ~\.julia\packages\ReverseDiff\60noS\src\derivatives\propagation.jl:35 [inlined]
[2] increment_deriv!(t::Matrix{Real}, x::Matrix{Float64})
@ ReverseDiff ~\.julia\packages\ReverseDiff\60noS\src\derivatives\propagation.jl:40
[3] special_reverse_exec!(instruction::ReverseDiff.SpecialInstruction{typeof(+), Tuple{ReverseDiff.TrackedArray{Float64, Float64, 2, Matrix{Float64}, Matrix{Float64}}, Matrix{Real}}, ReverseDiff.TrackedArray{Float64, Float64, 2, Matrix{Float64}, Matrix{Float64}}, Nothing})
@ ReverseDiff ~\.julia\packages\ReverseDiff\60noS\src\derivatives\linalg\arithmetic.jl:50
[4] reverse_exec!(instruction::ReverseDiff.SpecialInstruction{typeof(+), Tuple{ReverseDiff.TrackedArray{Float64, Float64, 2, Matrix{Float64}, Matrix{Float64}}, Matrix{Real}}, ReverseDiff.TrackedArray{Float64, Float64, 2, Matrix{Float64}, Matrix{Float64}}, Nothing})
@ ReverseDiff ~\.julia\packages\ReverseDiff\60noS\src\tape.jl:93
[5] reverse_pass!(tape::Vector{ReverseDiff.AbstractInstruction})
@ ReverseDiff ~\.julia\packages\ReverseDiff\60noS\src\tape.jl:87
[6] reverse_pass!
@ ~\.julia\packages\ReverseDiff\60noS\src\api\tape.jl:36 [inlined]
- Ngôn ngữ chính
- Julia
- Star
- 395
- Fork
- 61
- Merge trung bình
- 23 giờ 18 phút
- Pull request đã merge (30 ngày)
- 16
Chuẩn bị môi trường
Dự án này không cung cấp dev container, Dockerfile hay hướng dẫn đóng góp, nên bạn cần tự thiết lập môi trường: hãy bắt đầu từ README và xem hướng dẫn đóng góp lần đầu của chúng tôi để biết các bước chung.
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của JuliaDiff/ReverseDiff.jl
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 86/100
JuliaDiff/ReverseDiff.jl#318 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
`@grad`/`@grad_from_chainrules` silently reuse a tangent if a pullback returns too few tangentsĐang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 83/100
JuliaDiff/ReverseDiff.jl#315 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 84/100
JuliaDiff/ReverseDiff.jl#314 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 4/5 3-5 ngày Mức phù hợp với người mới 56/100
JuliaDiff/ReverseDiff.jl#321 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 3/5 1-2 ngày Mức phù hợp với người mới 72/100
JuliaDiff/ReverseDiff.jl#320 ·
Maintainer thường phản hồi trong vòng 1 ngày
Tất cả issue của JuliaDiff/ReverseDiff.jl
Issue tương tự
-
found-by-agent
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 68/100
exanauts/SparseDirectSolver.jl#92 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 1 ngày
-
lu_instance/qr_instance run a full factorization for FixedSizeArraysCó thể đã có người làm @devmotion đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
JuliaArrays/ArrayInterface.jl#510 ·
-
Segfault on x86_64 with AVX: over-aligned vector storeCó thể đã có người làm @vchuravy đã nhận hôm nay. Đang mở
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 88/100
EnzymeAD/Enzyme.jl#3775 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
Maintainer thường phản hồi trong vòng 1 ngày