Новітні дослідження навчання з підкріпленням показують, що оновлення лише одного шару трансформера може повторити ефективність повного навчання параметрів. Ця виявлена структурна модель демонструє, що покращення моделі ШІ зосереджені у конкретних середніх шарах, а не в усій структурі.