Разработчиците често използват 30-секунден интервал за поддържане на кеша на промптите, но проучвания показват, че тази практика често е излишна и скъпа. Четириминутният интервал в много случаи е по-ефективен за балансиране между латентността и разходите за API при основните доставчици.