Tensor.backward accumulates gradients across calls
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 68/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Khá rõ ràng
- Mức độ hoạt động
- Ít trao đổi
- Công nghệ
- python
- Lĩnh vực
- machine-learning
Hướng nghiên cứu
Bắt đầu với phương thức backward trong leanpass/tensor.py và theo dõi cách nó cập nhật self.grad và gradient của các nút trung gian. Kiểm tra hành vi khi gọi backward lặp đi lặp lại; coi là hoàn thành khi các gradient không còn tích lũy ngoài ý muốn nếu không gọi zero_grad một cách tường minh.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
File: leanpass/tensor.py
The backward method adds the supplied gradient to any existing self.grad and never clears intermediate node gradients before a new backward pass. This leads to unintended gradient accumulation when backward is called multiple times without an explicit zero_grad. The method should reset self.grad (and optionally all ancestors' grads) at the start of the backward pass, mirroring the behavior of frameworks like PyTorch.
Filed automatically by ai-issue-scan.
- Ngôn ngữ chính
- Python
- Star
- 16
- Fork
- 1
- Merge trung bình
- 2 ngày 8 giờ
- Pull request đã merge (30 ngày)
- 5
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Terminay/leanpass
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
-
enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
-
performance
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Tất cả issue của Terminay/leanpass
Issue tương tự
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 66/100
-
[Bug]: Queen's own Ollama model loses num_ctx when a running session switches to itCó thể đã có người làm @anasamin26 đã nhận hôm nay. Đang mởbug enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
aden-hive/hive#7508 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
llm translation
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
BerriAI/litellm#47884 · 1 bình luận ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 1 ngày
-
bug 🐛
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
netalertx/NetAlertX#1856 · 1 reaction ·
Maintainer thường phản hồi trong vòng 1 ngày