Недавние исследования показывают, что применение матричной ортогонализации при считывании памяти mLSTM значительно улучшает результаты в задачах с зашумленным ассоциативным воспроизведением. Этот метод предотвращает доминирование сильных признаков над слабыми, обеспечивая эффективную альтернативу механизмам внимания трансформеров.