Інженерні команди часто ставлять у пріоритет загальну пропускну здатність при налаштуванні LLM, але висока швидкість запитів може приховувати деградацію продуктивності, що погіршує досвід користувача. Фокус на показниках результативної пропускної здатності гарантує, що запити відповідають цільовим показникам затримки, забезпечуючи кращу оцінку реальної ефективності системи.