Инженерните екипи често приоритизират суровата пропускателна способност при настройка на LLM, но високата скорост на заявките може да маскира влошаване на производителността, което вреди на крайния потребител. Фокусирането върху показателите за качествена пропускателна способност гарантира, че изпълнените заявки отговарят на критичните цели за латентност, осигурявайки по-добра оценка за реалната ефективност на системата.