awesome-infra-for-ai digest (2026-07-06)

Список awesome-infra-for-ai пополнился 8 новыми репозиториями. dphnAI/sonar (1 779 звёзд) — Sonar — это высокопроизводительный механизм инференса на базе vLLM для масштабируемого обслуживания LLM, совместимых с HuggingFace, с функциями непрерывной пакетной обработки, PagedAttention и обширной поддержкой квантования. seakee/CPA-Manager-Plus (1 273 звезды) — CPA Manager Plus — это самоуправляемая панель мониторинга трафика AI-шлюза, предоставляющая анализ запросов, затрат, сбоев, квот и состояния учетных записей в реальном времени для OpenAI-совместимых и CPA/CL... automataIA/graphrag-rs (514 звёзд) — GraphRAG-rs — это высокопроизводительная реализация GraphRAG на Rust для построения запрашиваемых графов знаний из документов, предлагающая архитектуры развертывания для сервера, только WASM и гибридные. PrismorSec/prismor (223 звезды) — Prismor предоставляет хуки безопасности во время выполнения для AI-агентов кодирования, блокируя опасные команды, предотвращая утечки секретов и защищая от инъекции подсказок. rajudandigam/agent-inspect (153 звезды) — Agent Inspect предоставляет локальные деревья выполнения, трассировку и отладку для AI-агентов TypeScript, предлагая глубокие аналитические данные о работе агентов без зависимостей от облака. khankamraan2006-crypto/fabric-router-core (151 звезда) — CloudForge AI — это распределенный шлюз LLM, который организует инференс от нескольких провайдеров с интеллектуальной маршрутизацией, управлением затратами и безопасностью для высокодоступных производственных сред. redevops-io/redevops-rag (129 звёзд) — redevops-rag — это компактная библиотека и инструмент командной строки, предоставляющий гибридный конвейер RAG с DuckDB для векторного поиска, BM25, Reciprocal Rank Fusion, приоритетов новизны/ключевых слов и опционального повторного ранжирования с кросс-кодировщиком... tiylabs/tiygate (116 звёзд) — TiyGate — это шлюз AI с открытым исходным кодом, созданный на Rust для управления и маршрутизации служб LLM между несколькими провайдерами с функциями высокой доступности, логирования и анализа использования.