awesome-infra-for-ai digest (2026-07-06)
Списъкът awesome-infra-for-ai получи 8 нови хранилища. dphnAI/sonar (1 779 звезди) — Sonar е високопроизводителен механизъм за извод, базиран на vLLM, за мащабно обслужване на съвместими с HuggingFace LLM, включващ непрекъснато пакетиране, PagedAttention и широка поддръжка на квантуване. seakee/CPA-Manager-Plus (1 273 звезди) — CPA Manager Plus е самостоятелно хоствано табло за мониторинг на трафика на AI шлюзове, предоставящо анализ в реално време на заявки, разходи, сривове, квоти и състояние на акаунти за съвместими с OpenAI и CPA/CL... automataIA/graphrag-rs (514 звезди) — GraphRAG-rs е високопроизводителна реализация на GraphRAG на Rust за изграждане на търсещи графици на знания от документи, предлагаща архитектури за разполагане на сървър, само WASM и хибридни. PrismorSec/prismor (223 звезди) — Prismor предоставя куки за сигурност по време на изпълнение за AI кодиращи агенти, блокирайки опасни команди, предотвратявайки изтичане на тайни и защитавайки от инжектиране на подкани. rajudandigam/agent-inspect (153 звезди) — Agent Inspect предоставя локални дървета на изпълнение, проследяване и отстраняване на грешки за AI агенти на TypeScript, предлагайки задълбочени прозрения за изпълнението на агенти без облачни зависимости. khankamraan2006-crypto/fabric-router-core (151 звезда) — CloudForge AI е разпределен LLM шлюз, който оркестрира извод от множество доставчици с интелигентно маршрутизиране, управление на разходите и сигурност за високодостъпни производствени среди. redevops-io/redevops-rag (129 звезди) — redevops-rag е компактна библиотека и CLI инструмент, предоставящ хибриден RAG тръбопровод с DuckDB за векторен търсене, BM25, Reciprocal Rank Fusion, приоритети за новост/ключови думи и опционално преранкиране с кръстосан енкодер... tiylabs/tiygate (116 звезди) — TiyGate е отворен код AI шлюз, създаден на Rust за управление и маршрутизиране на LLM услуги през множество доставчици с функции за висока наличност, регистриране и анализ на използването.