Trouble debugging gradients of nonlinear model
まだ誰も着手していません。
評価
調査の方向性
DiffOpt.nonlinear_diff_model、reverse_differentiate!、および有限差分関数 solve_a_ϕ0_manual を使用した簡略化した Julia 再現コードから始めます。ϕ0 = 0.0 と ϕ0 = 1.0 で報告された微分を比較し、その後、差異の原因が数値的な挙動なのか、DiffOpt の非線形感度計算なのかを特定します。原因が説明され、必要な修正が再現可能なテストでカバーされれば完了です。
索引モデルが issue の本文から書いたものです。
説明
I have a nonlinear (nonconvex) program that I am solving with Ipopt and using DiffOpt to differentiate through. I have been having trouble getting correct gradients and am not sure if this is a numerical issue with my model formulation, or if there is something more fundamental going on. Here is a pared-down example that demonstrates my issue.
# define parameter value
ϕ0=[0.0];
# define constants used in model
Phigh = 0.4412123910369964;
Plow = 0.357171935601378;
c(Nsep) = (1 / (1 + 2*Nsep))^2
cols = 2;
reqwakes = 1;
Nwakes = 1;
aprev = 0.1 * ones(2, 1);
rhist = Phigh * ones(1);
normalized_rhist = [1];
predhorz = 2;
KP = 0.5 * π/4;
model = DiffOpt.nonlinear_diff_model(Ipopt.Optimizer)
# define decision variables
JuMP.@variable(model, 0.05 <= a[1:cols, -reqwakes:Nwakes] <= 1/3)
# fix certain values
for j=1:cols, n=1:reqwakes
JuMP.fix(a[j, n - cols], aprev[j, n]; force=true)
end
JuMP.fix.(a[end, 0:end], 0.333333; force=true)
# define parameter
JuMP.@variable(model, ϕ in JuMP.Parameter(ϕ0[1]))
# define parameterized signal
scale = (Phigh - Plow) / 2;
shift = (Phigh + Plow) / 2;
JuMP.@variables(model, begin
Pref_unscaled[t=1:predhorz]
Pref_var[t=1:predhorz]
end)
JuMP.fix.(Pref_unscaled[1], reverse(normalized_rhist))
JuMP.@constraints(model, begin
[t=2:predhorz], Pref_unscaled[t] .== ϕ * Pref_unscaled[t-1]
[t=1:predhorz], Pref_var[t] == (scale * Pref_unscaled[t] + shift)
end)
# define NL model expressions
JuMP.@expressions(model, begin
CP[j=1:cols, n=0:Nwakes], 4 * a[j,n] * (1 - a[j,n])^2
δV[j=1:cols, n=0:Nwakes], 2 * sqrt( sum( (a[prev,n-(j-prev)] * c(j-prev) )^2 for prev=1:j-1; init=0) )
u[j=1:cols, n=0:Nwakes], (1 - δV[j,n])
Pcap[j=1:cols, n=0:Nwakes], CP[j,n] * u[j,n]^3
Pgen[n=0:Nwakes], sum(Pcap[j,n] for j=1:cols)
end)
# define objective
JuMP.@objective(model, Min, sum( (KP * Pgen[n] - Pref_var[1+n])^2 for n=0:Nwakes))
With this model, I vary φ and find the optimal a, producing the following curve.
I then take the derivative of a w.r.t. φ using both DiffOpt
DiffOpt.empty_input_sensitivities!(model)
DiffOpt.set_reverse_variable.(model, model[:a][1, 0], 1)
DiffOpt.reverse_differentiate!(model)
dadϕ = DiffOpt.get_reverse_parameter.(model, model[:ϕ]);
and finite differencing.
function solve_a_ϕ0_manual(ϕ0)
JuMP.set_parameter_value.(model[:ϕ], ϕ0)
JuMP.optimize!(model)
JuMP.assert_is_solved_and_feasible(model)
asolved_new = JuMP.value.(model[:a]);
return asolved_new[1, 0]
end
dadϕ_fdm = FiniteDifferences.grad(FiniteDifferences.forward_fdm(2, 1; factor=1e6), solve_a_ϕ0_manual, ϕ0);
This returns problematic results. In the flat portion of the plot, e.g., φ0 = 0.0, both gradients are "close" to 0, but still differ significantly.
dadϕ = -9.871980439887741e-10
dadϕ_fdm = ([-5.972732875606716e-8],)
dadϕ_fdm[1] / dadϕ = [60.501871047818184]
In the changing portion of the plot, e.g., φ0 = 1.0, the gradients are closer but don't really match well.
dadϕ = -0.03988513330240084
dadϕ_fdm = ([-0.04102676532022559],)
dadϕ_fdm[1] / dadϕ = [1.02862299617176]
Plotting the gradients as tangents on the graphs shows that the finite differencing is giving me more accurate results here.
Any insight would be appreciated!
- 主要言語
- Julia
- スター
- 146
- フォーク
- 21
- PR マージ指標
- 30日以内にマージされた PR はありません
環境構築
このプロジェクトには開発コンテナ、Dockerfile、コントリビューションガイドがありません。まず README を読み、一般的な手順ははじめてのコントリビューションガイドを参照してください。
はじめの一歩
- issue を最後まで読み、次にプロジェクトのコントリビューションガイドを読みます。
- 着手することを issue にコメントします — 二人が同じ作業をするのを防げます。
- リポジトリをフォークし、ブランチを切って変更します。
- issue 番号を参照したプルリクエストを送ります。
jump-dev/DiffOpt.jl のほかの issue
-
難易度 3/5 1〜2日 初心者へのやさしさ 55/100
jump-dev/DiffOpt.jl#362 · コメント 1 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 25/100
jump-dev/DiffOpt.jl#358 · コメント 2 件 ·
-
難易度 3/5 1〜2日 初心者へのやさしさ 55/100
jump-dev/DiffOpt.jl#348 ·
-
good first issue
難易度 4/5 3〜5日 初心者へのやさしさ 48/100
jump-dev/DiffOpt.jl#336 · コメント 4 件 ·
-
難易度 5/5 1週間以上 初心者へのやさしさ 35/100
jump-dev/DiffOpt.jl#331 · コメント 1 件 ·
jump-dev/DiffOpt.jl の issue をすべて見る
似ている issue
-
難易度 1/5 1時間未満 初心者へのやさしさ 83/100
JuliaMath/Polynomials.jl#647 ·
-
難易度 2/5 1〜3時間 初心者へのやさしさ 74/100
OpenSourceAWE/SymbolicAWEModels.jl#431 ·
メンテナーはふだん 1 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 66/100
-
難易度 1/5 1時間未満 初心者へのやさしさ 89/100
メンテナーはふだん 4 日以内に返信
-
難易度 2/5 1〜3時間 初心者へのやさしさ 76/100
メンテナーはふだん 1 日以内に返信