awesome-infra-for-ai digest (2026-07-06)

Список awesome-infra-for-ai отримав 8 нових репозиторіїв. dphnAI/sonar (1 779 зірок) — Sonar — це високопродуктивний механізм висновку на основі vLLM для масштабованого обслуговування LLM, сумісних з HuggingFace, що має безперервну пакетну обробку, PagedAttention та широку підтримку квантування. seakee/CPA-Manager-Plus (1 273 зірки) — CPA Manager Plus — це самостійно розміщена панель приладів для моніторингу трафіку шлюзу ШІ, що забезпечує аналіз запитів, витрат, збоїв, квот і стану облікових записів у реальному часі для OpenAI-сумісних та CPA/CL... automataIA/graphrag-rs (514 зірок) — GraphRAG-rs — це високопродуктивна реалізація GraphRAG на Rust для створення запитуваних графів знань з документів, що пропонує архітектури розгортання на сервері, тільки WASM та гібридні. PrismorSec/prismor (223 зірки) — Prismor надає хуки безпеки під час виконання для агентів кодування ШІ, блокуючи небезпечні команди, запобігаючи витоку секретів та захищаючи від ін’єкцій підказок. rajudandigam/agent-inspect (153 зірки) — Agent Inspect надає локальні дерева виконання, трасування та налагодження для агентів ШІ на TypeScript, пропонуючи глибокі відомості про виконання агентів без залежностей від хмари. khankamraan2006-crypto/fabric-router-core (151 зірка) — CloudForge AI — це розподілений шлюз LLM, який організовує висновок від багатьох провайдерів з інтелектуальною маршрутизацією, управлінням витратами та безпекою для високодоступних виробничих середовищ. redevops-io/redevops-rag (129 зірок) — redevops-rag — це компактна бібліотека та інструмент CLI, що надає гібридний конвеєр RAG з DuckDB для векторного пошуку, BM25, Reciprocal Rank Fusion, пріоритетами новизни/ключових слів та опціональним переранжуванням за допомогою крос-кодера... tiylabs/tiygate (116 зірок) — TiyGate — це шлюз ШІ з відкритим вихідним кодом, створений на Rust для управління та маршрутизації служб LLM між кількома провайдерами з функціями високої доступності, ведення журналів та аналітики використання.