SGD.zero_grad overwrites gradients for non‑trainable parameters
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 85/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Đặc tả rõ ràng
- Mức độ hoạt động
- Ít trao đổi
- Công nghệ
- python
- Lĩnh vực
- machine-learning
Hướng nghiên cứu
Bắt đầu với zero_grad trong leanpass/optim.py và kiểm tra cách nó xử lý các tham số có và không có requires_grad. Hoàn thành nghĩa là chỉ các tham số có thể huấn luyện nhận được gradient có giá trị 0, trong khi các tham số không thể huấn luyện giữ nguyên grad=None.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
File: leanpass/optim.py
The zero_grad method unconditionally creates a NumPy array for param.grad even when the parameter does not require gradients (requires_grad=False). This breaks the convention that non‑trainable tensors have grad=None and can cause downstream code to treat them as trainable. The method should only zero gradients for parameters that have requires_grad=True.
def zero_grad(self):
for param in self.params:
- param.grad = np.zeros_like(param.data)
+ if param.requires_grad:
+ param.grad = np.zeros_like(param.data)
Filed automatically by ai-issue-scan.
- Ngôn ngữ chính
- Python
- Star
- 16
- Fork
- 1
- Merge trung bình
- 2 ngày 8 giờ
- Pull request đã merge (30 ngày)
- 5
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Terminay/leanpass
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
-
enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
-
performance
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Tất cả issue của Terminay/leanpass
Issue tương tự
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
ansys/pyansys-common-mcp#213 ·
Maintainer thường phản hồi trong vòng 3 ngày
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 67/100
freedomofpress/dangerzone#1594 ·
Maintainer thường phản hồi trong vòng 3 ngày
-
priority:P1 status:in-review type:bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
randomparity/kdive#3317 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
area:ci
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 90/100
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 66/100
mesonbuild/meson#16281 ·
Maintainer thường phản hồi trong vòng 1 ngày