Дайджест awesome-infra-for-ai (2026-07-13)

Список awesome-infra-for-ai пополнился 7 новыми репозиториями. xLLM-AI/xllm (1 467 звёзд) — xLLM — это высокопроизводительный механизм вывода LLM, оптимизированный для различных ускорителей ИИ, особенно китайского оборудования, ориентированный на эффективную, низколатентную и высокопроизводительную подачу моделей. mozilla-ai/otari (270 звёзд) — Otari — это открытый, совместимый с OpenAI шлюз LLM, который централизует маршрутизацию, аутентификацию, контроль бюджета и отслеживание использования для более чем 40 поставщиков ИИ. muxi-ai/muxi (267 звёзд) — MUXI — это сервер приложений ИИ с открытым исходным кодом, предоставляющий производственную инфраструктуру для развертывания и эксплуатации агентов ИИ со встроенными возможностями оркестровки, памяти, наблюдаемости и масштабирования. zhongkaifu/TensorSharp (209 звёзд) — TensorSharp — это нативный .NET механизм вывода, специально разработанный для обслуживания больших языковых моделей (LLM) GGUF и моделей текстовой диффузии в стиле DiffusionGemma, предлагающий консоль, веб-интерфейс и Op... edgee-ai/edgee (115 звёзд) — Edgee — это открытый, основанный на Rust шлюз LLM, который оптимизирует трафик ИИ посредством сжатия токенов, маршрутизации между несколькими провайдерами и наблюдаемости в реальном времени. jigjoy-ai/mozaik (107 звёзд) — Mozaik — это среда выполнения TypeScript для создания самоорганизующихся агентов ИИ, позволяющая им общаться, координировать действия и адаптироваться во время выполнения, а не полагаться на фиксированные рабочие процессы. pmady/keda-gpu-scaler (106 звёзд) — Внешний масштабатор KEDA, который позволяет Kubernetes автоматически масштабировать рабочие нагрузки GPU, напрямую используя метрики NVIDIA NVML, поддерживая масштабирование до нуля для серверов вывода ИИ, таких как vLLM и Triton.