FluxML/Zygote.jl

Unable to differentiate a broadcasted constructor with CUDA array inputs

Open

#1,528 opened on 2024年10月3日

GitHub で見る
 (2 comments) (0 reactions) (0 assignees)Julia (1,568 stars) (220 forks)batch import
CUDAhelp wanted

説明

Due to a CUDA bug: https://github.com/JuliaGPU/CUDA.jl/issues/2514, crossposted for reference.

Encountered when differentiating over:

using Distributions
using CUDA
a = cu(ones(5)); b = cu(zeros(5));

Normal.(a, b)

コントリビューターガイド

技術スタック
なし
領域
machine learning
Issue 種別
bug
難度新しい貢献者にとっての実装難度です。1 は非常に小さな変更、5 は専門的な作業です。
4
推定時間経験ある貢献者が調査、実装、テスト、pull request 準備にかけるおおよその時間範囲です。
3-5 days
活動状況Issue が今どれだけ取り組みやすいかを示します。新しい、活発、古い、ブロック中、またはメンテナー入力待ちなどです。
blocked
明確さ期待される変更、受け入れ条件、次の手順がどれだけ明確かを示します。
clear
前提条件
Julia basicsZygote.jl basicsCUDA.jl basicsBroadcasting in Julia
初心者向け度初回貢献者にどれだけ取り組みやすいかを 1-100 で推定したスコアです。
20
調査方針
The issue is blocked by a CUDA.jl bug (reference: JuliaGPU/CUDA.jl#2514). To proceed, first understand that bug and its implications on Zygote's differentiation of broadcasted constructors. Then, examine Zygote's handling of broadcasted calls and see if a workaround is possible. The provided example uses Distributions.Normal with CUDA arrays; review the interaction between Distributions and Zygote. No linked PRs or assignees exist yet.