`gradient!` leaves part of the result unwritten when `f` does not depend on its argument
Evaluación
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Aptitud para principiantes
- 78/100
- Tipo de issue
- Error
- Claridad
- Bien especificado
- Estado de actividad
- Activo
- Stack tecnológico
- julia
- Área
- backend-api-design
Línea de trabajo
Comienza en src/gradient.jl, alrededor de extract_gradient!, e inspecciona cómo se despachan los valores Dual anidados para la extracción de gradientes de arrays y DiffResults. Reproduce los ejemplos proporcionados de diferenciación anidada y, después, verifica que los gradientes escriban cero en cada entrada y que la forma DiffResult finalice sin un error de conversión. Añade o ejecuta pruebas de regresión específicas para estos casos.
Escrito por el modelo de indexación a partir del texto del issue.
Descripción
When f does not depend on its argument but carries a perturbation from an enclosing differentiation, ForwardDiff.gradient! writes only part of the result and leaves the rest exactly as it found it. The gradient is zero in this situation, so every entry should be written.
using ForwardDiff, DiffResults
x = [1.0, 2.0, 3.0]
ForwardDiff.derivative(1.0) do a
out = fill(a * 111.0, 3) # a buffer with recognisable junk
ForwardDiff.gradient!(out, z -> a * 2.0, x)
@show ForwardDiff.value.(out) # [0.0, 111.0, 111.0], should be [0.0, 0.0, 0.0]
return zero(a)
end
The allocating form has the same defect against the buffer it just allocated, so it returns uninitialized memory. That is often zero, which hides the bug, but not always:
julia> ForwardDiff.derivative(1.0) do a
@show ForwardDiff.gradient(z -> a * 2.0, x)
return zero(a)
end
gradient = Dual{…}[Dual(0.0,0.0), Dual(2.3611913415e-314,2.361521164e-314), Dual(5.0e-324,2.260386021e-314)]
The DiffResult form errors instead:
ForwardDiff.derivative(1.0) do a
r = DiffResults.GradientResult(fill(a * 0.0, 3))
ForwardDiff.gradient!(r, z -> a * 2.0, x)
return zero(a)
end
# ERROR: MethodError: Cannot `convert` an object of type Dual{…} to an object of type Float64
The StaticArray path is correct and returns [0.0, 0.0, 0.0], because its @generated extract_gradient is built from length(x) and uses the indexed partials(T, y, i).
Cause
extract_gradient!(::Type{T}, result::AbstractArray, y::Real) where {T} = fill!(result, zero(y))
function extract_gradient!(::Type{T}, result::AbstractArray, dual::Dual) where {T}
idxs = structural_eachindex(result)
for (i, idx) in zip(1:npartials(dual), idxs)
result[idx] = partials(T, dual, i)
end
return result
end
A Dual{S,V,N} with S ≺ T carries no T-perturbation, so its gradient is zero everywhere and the ::Real method above is what it needs — but it is a Dual, so it takes the second method, where npartials reports N for the wrong layer. Whenever that N is smaller than length(x) the tail of the result is never written.
L59-L63 shares the dispatch and then passes partials(T, dual) to DiffResults.gradient!; for this case that is zero(dual), a scalar Dual rather than a Partials, which is the same shape problem as in #846.
Suggested fix
Dispatch on Dual{T} rather than on Dual, so a value carrying no T-perturbation falls through to the ::Real method, which already fills the whole result with zeros.
Version: ForwardDiff master (v1.4.5), Julia 1.12.7, StaticArrays 1.9.19.
- Lenguaje dominante
- Julia
- Estrellas
- 1k
- Forks
- 162
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Preparar el entorno
Este proyecto no incluye contenedor de desarrollo, Dockerfile ni guía de contribución, así que la configuración corre por tu cuenta: empieza por su README y consulta nuestra guía para la primera contribución para los pasos generales.
Primeros pasos
- Lee el issue completo y luego la guía de contribución del proyecto.
- Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
- Haz un fork del repositorio y trabaja en una rama.
- Abre un pull request que haga referencia al número del issue.
Más de JuliaDiff/ForwardDiff.jl
-
missing floatmin, floatmax, and issubnormal for DualPosiblemente ocupada @devmotion la tomó hace 13 días. Abierto
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
JuliaDiff/ForwardDiff.jl#852 · 6 comentarios ·
-
Enable NaN-safe mode by defaultPosiblemente ocupada @devmotion la tomó hoy. Abierto
Dificultad 5/5 Más de una semana Aptitud para principiantes 25/100
JuliaDiff/ForwardDiff.jl#857 · 1 reacción ·
-
Dificultad 4/5 3-5 días Aptitud para principiantes 52/100
JuliaDiff/ForwardDiff.jl#854 · 1 comentario ·
-
Dificultad 3/5 1-2 días Aptitud para principiantes 75/100
JuliaDiff/ForwardDiff.jl#849 ·
-
hessian!(::ImmutableDiffResult, f, ::StaticArray) errors when f does not depend on its argumentPosiblemente ocupada @devmotion la tomó hace 42 días. Abierto
Dificultad 3/5 1-2 días Aptitud para principiantes 76/100
JuliaDiff/ForwardDiff.jl#846 · 1 comentario ·
Todos los issues de JuliaDiff/ForwardDiff.jl
Issues similares
-
tagbot-manual
Dificultad 1/5 Menos de una hora Aptitud para principiantes 75/100
tshort/StaticCompiler.jl#191 ·
-
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
SciML/SciMLSensitivity.jl#1703 · 1 comentario ·
Los mantenedores suelen responder en 1 día
-
`biggs6` disagrees with CUTEst and is unbounded belowPosiblemente ocupada @timholy la tomó hace 1 día. Abiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 68/100
-
Cannot set point coordinates with `Range`s (or arbitrary arrays) using `Makie.Resampler` in `heatmap`Posiblemente ocupada Un pull request vinculado a esta issue está abierto o ya se fusionó. Abiertobug
Dificultad 2/5 1-3 horas Aptitud para principiantes 74/100
Los mantenedores suelen responder en 2 días
-
Document that `nullspace` returns orthonormalized vectorsPosiblemente ocupada @thchr la tomó hoy. Abiertodocs
Dificultad 1/5 Menos de una hora Aptitud para principiantes 68/100
JuliaLang/LinearAlgebra.jl#1754 · 2 comentarios · 1 reacción ·
Los mantenedores suelen responder en 2 días