Muon supera a AdamW y reduce hasta 48% los FLOPs para entrenar modelos de IA
Un informe técnico de Moonshot AI sostiene que Muon puede igualar el rendimiento de AdamW con cerca de la mitad de los FLOPs, mientras su modelo Moonlight mejora resultados en código, matemáticas y comprensión de lenguaje. *** Un informe de Moonshot AI revela que Muon logra hasta un 48% menos de FLOPs con rendimiento similar a AdamW.