Дискуссия об оптимальном хранении памяти ИИ предполагает выход за рамки компромисса между рекуррентными скрытыми состояниями и растущими кэшами KV. Исследователи изучают синаптические структуры, интегрирующие рабочую память непосредственно во внутреннюю архитектуру модели для повышения эффективности непрерывного обучения.