From Adam to Muon

From Adam to Muon

相关参考文献和链接:

Adam: https://arxiv.org/pdf/1412.6980.pdf Muon: https://arxiv.org/pdf/1802.05984.pdf

Adam和Muon是目前大家谈论最多的优化器。