Netflix описа архитектурата на своята платформа за LLM услуги, която използва хибриден подход с Triton и vLLM за управление на сложни изчислителни натоварвания. Чрез интегрирането на тези системи със съществуващата инфраструктура, компанията успява да поддържа баланс между специфичните нужди на своите модели и стабилни протоколи за внедряване.