Gradients with respect to dictionaries don't work
Personne n'a encore pris cette issue.
Évaluation
- Difficulté
- 4/5
- Temps estimé
- 3-5 jours
- Accessibilité débutants
- 35/100
- Type d'issue
- Bug
- Clarté
- Plutôt claire
- Activité
- À l'abandon
- Stack technique
- julia
- Domaine
- machine-learning
Piste de recherche
Commencez par reproduire les deux exemples de gradients de dictionnaire de l’issue, puis examinez les frames de pile Diffractor signalées dans src/stage1/generated.jl ainsi que l’erreur de tangente de ChainRulesCore. Suivez la manière dont la construction et la recherche dans les dictionnaires sont différenciées ; le travail est terminé lorsque les deux exemples s’exécutent sans erreur et renvoient des gradients de dictionnaire correspondant au comportement de Zygote illustré.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Description
In Julia 1.7.3:
julia> Zygote.gradient(x -> x["foo"]["bar"]^2, Dict("foo" => Dict("bar" => 5)))
(Dict{Any, Any}("foo" => Dict{Any, Any}("bar" => 10)),)
julia> Diffractor.gradient(x -> x["foo"]["bar"]^2, Dict("foo" => Dict("bar" => 5)))
ERROR: ArgumentError: Tangent for the primal Dict{String, Int64} should be backed by a AbstractDict type, not by NamedTuple{(:vals,), Tuple{Vector{Int64}}}.
Stacktrace:
[1] _backing_error(P::Type, G::Type, E::Type)
@ ChainRulesCore C:\Users\anhin\.julia\packages\ChainRulesCore\ctmSK\src\tangent_types\tangent.jl:62
[2] ChainRulesCore.Tangent{Dict{String, Int64}, NamedTuple{(:vals,), Tuple{Vector{Int64}}}}(backing::NamedTuple{(:vals,), Tuple{Vector{Int64}}})
@ ChainRulesCore C:\Users\anhin\.julia\packages\ChainRulesCore\ctmSK\src\tangent_types\tangent.jl:33
[3] (::Diffractor.var"#162#164"{Symbol, DataType})(Δ::Vector{Int64})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:309
[4] (::Diffractor.EvenOddOdd{1, 1, Diffractor.var"#162#164"{Symbol, DataType}, Diffractor.var"#163#165"{Symbol}})(Δ::Vector{Int64})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:289
[5] ∂⃖¹₁getproperty
@ .\none:1
and
julia> pars = Dict(:x=>0f0, "y"=>4f0, 8=>-3f0)
Dict{Any, Float32} with 3 entries:
"y" => 4.0
8 => -3.0
:x => 0.0
julia> function my_map(my_f, my_dict)
new_dict = Dict()
for k in keys(my_dict)
new_dict[k] = my_f(my_dict[k])
end
new_dict
end
my_map (generic function with 1 method)
julia> function my_sum(my_dict)
s = 0f0
for k in keys(my_dict)
s += my_dict[k]
end
s
end
my_sum (generic function with 1 method)
julia> my_sum(my_map(x->x^2, pars))
25.0f0
julia> Zygote.gradient(pars -> my_sum(my_map(x->x^2, pars)), pars)
(Dict{Any, Any}("y" => 8.0f0, 8 => -6.0f0, :x => 0.0f0),)
julia> Diffractor.gradient(pars -> my_sum(my_map(x->x^2, pars)), pars)
ERROR: MethodError: no method matching (::Diffractor.∂⃖recurse{1})(::typeof(Core.sizeof), ::Int64)
Closest candidates are:
(::Diffractor.∂⃖recurse)(::Any...) at C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:406
Stacktrace:
[1] macro expansion
@ C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:0 [inlined]
[2] (::Diffractor.∂⃖recurse{1})(::typeof(Core.sizeof), ::Int64)
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:415
[3] (::∂⃖{1})(f::typeof(Core.sizeof), args::Int64)
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[4] is_top_bit_set
@ .\boot.jl:616 [inlined]
[5] (::∂⃖{1})(f::typeof(Core.is_top_bit_set), args::Int64)
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[6] check_top_bit
@ .\boot.jl:626 [inlined]
[7] (::Diffractor.∂⃖recurse{1})(::typeof(Core.check_top_bit), ::Type{UInt64}, ::Int64)
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:0
[8] (::∂⃖{1})(::typeof(Core.check_top_bit), ::Type, ::Vararg{Any})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[9] toUInt64
@ .\boot.jl:737 [inlined]
[10] (::Diffractor.∂⃖recurse{1})(::typeof(Core.toUInt64), ::Int64)
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:0
[11] (::∂⃖{1})(f::typeof(Core.toUInt64), args::Int64)
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[12] UInt64
@ .\boot.jl:767 [inlined]
[13] (::Diffractor.∂⃖recurse{1})(::Type{UInt64}, ::Int64)
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:0
[14] (::∂⃖{1})(f::Type{UInt64}, args::Int64)
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[15] convert
@ .\number.jl:7 [inlined]
[16] (::Diffractor.∂⃖recurse{1})(::typeof(convert), ::Type{UInt64}, ::Int64)
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:0
[17] (::∂⃖{1})(::typeof(convert), ::Type, ::Vararg{Any})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[18] Dict
@ .\dict.jl:90 [inlined]
[19] (::Diffractor.∂⃖recurse{1})(args::Type{Dict{Any, Any}})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:0
[20] (::∂⃖{1})(::Type{Dict{Any, Any}})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[21] Dict
@ .\dict.jl:118 [inlined]
[22] (::Diffractor.∂⃖recurse{1})(args::Type{Dict})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:0
[23] (::∂⃖{1})(::Type{Dict})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[24] my_map
@ .\REPL[20]:2 [inlined]
[25] (::Diffractor.∂⃖recurse{1})(::typeof(my_map), ::var"#14#16", ::Dict{Any, Float32})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:0
[26] (::∂⃖{1})(::typeof(my_map), ::Function, ::Vararg{Any})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[27] #13
@ .\REPL[24]:1 [inlined]
[28] (::Diffractor.∂⃖recurse{1})(::var"#13#15", ::Dict{Any, Float32})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:0
[29] (::∂⃖{1})(f::var"#13#15", args::Dict{Any, Float32})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\stage1\generated.jl:216
[30] ∂⃖(::Function, ::Vararg{Any})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\interface.jl:25
[31] (::Diffractor.∇{var"#13#15"})(args::Dict{Any, Float32})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\interface.jl:123
[32] Diffractor.∇(::Function, ::Dict{Any, Float32})
@ Diffractor C:\Users\anhin\.julia\packages\Diffractor\WrKGJ\src\interface.jl:130
[33] top-level scope
@ REPL[24]:1
- Langage dominant
- Julia
- Étoiles
- 453
- Forks
- 33
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Préparer son environnement
Ce projet ne fournit ni conteneur de développement, ni Dockerfile, ni guide de contribution : l'installation est à votre charge. Commencez par son README, et consultez notre guide de la première contribution pour les étapes générales.
Par où commencer
- Lisez l'issue en entier, puis le guide de contribution du projet.
- Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
- Forkez le dépôt et travaillez sur une branche.
- Ouvrez une pull request qui référence le numéro de l'issue.
Autres issues de JuliaDiff/Diffractor.jl
-
Difficulté 2/5 1-3 heures Accessibilité débutants 25/100
JuliaDiff/Diffractor.jl#302 · 2 commentaires ·
-
Wrong derivative of exp(cos(x))Ouverte
Difficulté 3/5 1-2 jours Accessibilité débutants 52/100
JuliaDiff/Diffractor.jl#294 ·
-
Incorrect Jacobian calculationOuvertebug
Difficulté 4/5 3-5 jours Accessibilité débutants 35/100
JuliaDiff/Diffractor.jl#293 ·
-
bug
Difficulté 4/5 3-5 jours Accessibilité débutants 35/100
JuliaDiff/Diffractor.jl#290 · 8 commentaires ·
-
Difficulté 3/5 1-2 jours Accessibilité débutants 35/100
JuliaDiff/Diffractor.jl#280 · 1 commentaire ·
Toutes les issues de JuliaDiff/Diffractor.jl
Issues similaires
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
JuliaGPU/KernelAbstractions.jl#897 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 72/100
oscar-system/GAP.jl#1455 ·
Les mainteneurs répondent en général sous 1 jour
-
Difficulté 2/5 1-3 heures Accessibilité débutants 65/100
JuliaAI/MLJTransforms.jl#85 ·
-
Difficulté 2/5 1-3 heures Accessibilité débutants 70/100
SciML/OrdinaryDiffEq.jl#4875 ·
Les mainteneurs répondent en général sous 4 jours