Дайджест awesome-infra-for-ai (2026-07-13)

Списъкът awesome-infra-for-ai получи 7 нови хранилища. xLLM-AI/xllm (1 467 звезди) — xLLM е високопроизводителен механизъм за извеждане на LLM, оптимизиран за разнообразни AI ускорители, особено китайски хардуер, фокусиран върху ефективно, нисколатентно и високопроизводително обслужване на модели. mozilla-ai/otari (270 звезди) — Otari е отворен, съвместим с OpenAI LLM шлюз, който централизира маршрутизацията, удостоверяването, прилагането на бюджет и проследяването на използването за над 40 доставчици на AI. muxi-ai/muxi (267 звезди) — MUXI е сървър за AI приложения с отворен код, който предоставя производствена инфраструктура за разгръщане и експлоатация на AI агенти с вградени възможности за оркестрация, памет, наблюдаемост и мащабиране. zhongkaifu/TensorSharp (209 звезди) — TensorSharp е собствен .NET механизъм за извеждане, специално проектиран за обслужване на големи езикови модели (LLM) GGUF и модели за текстова дифузия в стил DiffusionGemma, предлагащ конзолни, уеб-базирани и Op... edgee-ai/edgee (115 звезди) — Edgee е отворен, захранван от Rust LLM шлюз, който оптимизира AI трафика чрез компресия на токени, маршрутизация между множество доставчици и наблюдаемост в реално време. jigjoy-ai/mozaik (107 звезди) — Mozaik е среда за изпълнение на TypeScript за изграждане на самоорганизиращи се AI агенти, позволяваща им да комуникират, координират и адаптират по време на изпълнение, вместо да разчитат на фиксирани работни потоци. pmady/keda-gpu-scaler (106 звезди) — Външен мащабатор на KEDA, който позволява на Kubernetes да автомащабира GPU натоварвания, като използва директно NVIDIA NVML метрики, поддържайки мащабиране до нула за AI сървъри за извеждане като vLLM и Triton.