Unnecessary Tensor allocation in `Dropout` forward pass
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 78/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Đặc tả rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- numpy, python
- Lĩnh vực
- machine-learning, performance
Hướng nghiên cứu
Bắt đầu từ leanpass/nn.py và đọc Dropout.forward để xem mặt nạ được tạo và sử dụng như thế nào. Kiểm tra các bài test hiện có hoặc chạy bộ bài test liên quan để xác minh hành vi của dropout trước và sau khi thay đổi. Hoàn thành khi bước truyền forward tránh một Tensor theo dõi gradient không cần thiết cho mặt nạ và hành vi của dropout vẫn đúng.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
File: leanpass/nn.py
Dropout.forward creates a new Tensor for the dropout mask on every call (Tensor(mask)). The mask never requires gradients, so wrapping it in a Tensor adds overhead (extra object, backward node) without benefit. Use the raw NumPy mask directly in the multiplication (x * mask) or create a non‑gradient‑tracking Tensor once and reuse it. This reduces memory churn during training.
Filed automatically by ai-issue-scan.
- Ngôn ngữ chính
- Python
- Star
- 16
- Fork
- 1
- Merge trung bình
- 2 ngày 8 giờ
- Pull request đã merge (30 ngày)
- 5
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Terminay/leanpass
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
-
enhancement
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
-
docs
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
Tất cả issue của Terminay/leanpass
Issue tương tự
-
documentation
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 67/100
Maintainer thường phản hồi trong vòng 1 ngày
-
good first issue module-baseline needs triage ux
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
darnitdevorg/darnit#650 ·
Maintainer thường phản hồi trong vòng 2 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 65/100
nyjc-computing/campus#938 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 70/100
nf-osi/nf-metadata-dictionary#1027 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
bug documentation
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 92/100
qatrackplus/qatrackplus#913 ·
Maintainer thường phản hồi trong vòng 3 ngày