SGD applies weight decay to bias parameters as well
Chưa có ai nhận issue này.
Đánh giá
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức phù hợp với người mới
- 82/100
- Loại issue
- Lỗi
- Độ rõ ràng
- Đặc tả rõ ràng
- Mức độ hoạt động
- Sôi nổi
- Công nghệ
- python
- Lĩnh vực
- machine-learning
Hướng nghiên cứu
Mở leanpass/optim.py và kiểm tra SGD.step, nơi weight_decay * param.data được thêm vào gradient của mọi tham số. Quyết định có nên bỏ qua các tensor có tên trông giống bias (hoặc thêm một cờ) hoặc ghi chú rằng decay được áp dụng cho tất cả các tham số. Xác nhận thay đổi bằng cách chạy các bài test tối ưu hóa có sẵn trong kho lưu trữ, hoặc một vòng lặp huấn luyện nhỏ để kiểm tra cập nhật bias so với cập nhật trọng số.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Mô tả
File: leanpass/optim.py
The SGD.step implementation adds weight_decay * param.data to the gradient for all parameters. In most deep‑learning libraries weight decay (L2 regularization) is applied only to weight tensors, not to bias terms. This can lead to unexpected training dynamics. Provide an option to exclude bias parameters (e.g., by checking param.name or a flag) or document the current behavior clearly.
Filed automatically by ai-issue-scan.
- Ngôn ngữ chính
- Python
- Star
- 16
- Fork
- 1
- Merge trung bình
- 2 ngày 8 giờ
- Pull request đã merge (30 ngày)
- 5
Chuẩn bị môi trường
- Không có Dockerfile hay tệp Docker Compose
- Có mẫu pull request
- Đọc hướng dẫn đóng góp
Bắt đầu từ đâu
- Đọc hết issue, rồi đọc hướng dẫn đóng góp của dự án.
- Bình luận trên issue rằng bạn sẽ nhận — tránh hai người làm cùng một việc.
- Fork repository và làm thay đổi trên một nhánh.
- Mở pull request có tham chiếu số hiệu của issue.
Issue khác của Terminay/leanpass
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 82/100
-
performance
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
-
docs
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 88/100
Tất cả issue của Terminay/leanpass
Issue tương tự
-
Uninstall guide omits the CloudWatch log groups AWS CodeBuild creates for useCodeBuild pipelinesĐang mởbug documentation
Độ khó 1/5 1-3 giờ Mức phù hợp với người mới 88/100
awslabs/visual-asset-management-system#552 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
netbox status: needs triage type: documentation
Độ khó 1/5 Dưới một giờ Mức phù hợp với người mới 76/100
netbox-community/netbox#23460 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 75/100
awslabs/threat-composer#362 ·
Maintainer thường phản hồi trong vòng 1 ngày
-
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 78/100
Maintainer thường phản hồi trong vòng 1 ngày
-
bug
Độ khó 2/5 1-3 giờ Mức phù hợp với người mới 72/100
ansys/pyansys-common-mcp#213 ·
Maintainer thường phản hồi trong vòng 3 ngày