Tilde Research представила Aurora, новий оптимізатор з урахуванням левериджу, який вирішує проблему відмирання нейронів у шарах MLP. Завдяки поєднанню рівномірності рядкових норм із ортогональністю, цей метод забезпечує вищу ефективність даних та перевершує сучасні результати у тестах оптимізації nanoGPT.