Собрали в одном месте самые важные ссылки
читайте нас в Telegram
Коллекция включает AccSGD, AdaBound, AdaMod, AdamP, AggMo, DiffGrad, Lamb, Lookahead, NovoGrad, PID, QHAdam, QHM, RAdam, Ranger, RangerQH, RangerVA, SGDW, SGDP, Shampoo, Yogi.
Описывается нестандартный метод решения сложения чисел с плавающей точкой