Инженерные команды часто отдают приоритет чистой пропускной способности при настройке LLM, однако высокая скорость обработки запросов может скрывать деградацию производительности, ухудшающую работу приложения. Фокус на показателях полезной пропускной способности гарантирует, что запросы выполняются в рамках целевых задержек, что является более точным критерием эффективности системы.