rtk: икономия 160 пъти по-малка от заявената

Месец гонях rtk — прокси, което филтрира изхода на shell-команди заради икономия на LLM токени. Неговата аналитика отчете 689 милиона спестени токена (93.3%).

rtk се вгражда с хук в ide и пренаписва bash-командите: git status се превръща в rtk git status, а изходът се филтрира и свива. В базата се записват две числа: колко токена е имало в суровия изход и колко са останали след филтъра. Разликата се обявява за «спестена». Изглежда съвсем логично: колкото по-голям е изходът, толкова по-голяма е икономията.

Уловката е в отправната точка. claude code ограничава изхода на всяка bash-команда до 30 хиляди символа (BASH_MAX_OUTPUT_LENGTH, документация); всичко над лимита се записва във файл, а в контекста влиза превю от ~2 килобайта. codex направо реже изхода до 10K, изрязвайки средата.

В резултат икономията от rtk е почти невидима — под $10 на седмица. И това е горната граница при плащане по API. На абонамент, освен красивите числа в rtk gain, ефект изобщо не се забелязва. За сравнение — заявените 689 милиона биха стрували по тарифата на fable около $6800.

Това е мисълта ми — бенчмарковете са трудни. И rtk, и caveman са два инструмента с общо 164 хиляди звезди, чиято заглавна цифра се мери строго срещу сламено чучело, което в реалността не съществува.