pytorch/examples

the learning rate of word_language_model

Open

#757 建立於 2020年4月22日

在 GitHub 查看
 (3 留言) (0 反應) (0 負責人)Python (21,634 star) (9,429 fork)batch import
help wantednlp

描述

Hi, I have a question about the learning rate in the example "word_language_model", the init lr = 20, which seems very large, can you tell me why lr is set to equal 20? Thanks a lot! If you have some advices about improving the performance, please let me know and thanks

貢獻者指南

技術棧
python
領域
machine learning
議題類型
research
難度面向新貢獻者的預計實作難度，1 表示很小改動，5 表示專家級工作。
3
預計時間有經驗貢獻者完成調查、實作、測試並準備 pull request 的粗略時間範圍。
1-3 hours
活動狀態議題目前的可參與程度：新鮮、活躍、陳舊、阻塞或等待維護者輸入。
stale
清晰度議題是否清楚說明預期改動、驗收標準和下一步。
clear
前置要求
familiarity with neural networkspytorch basics
新手友善度1-100 的估計分數，表示該議題對首次貢獻者的友善程度。
30
研究方向
Investigate the learning rate setting in the word language model example (likely in main.py or similar). Review any comments in the code and documentation. Consider writing a small experiment to show the effect of different learning rates. Provide a clear explanation with references to PyTorch documentation.