ПрототипЕксперимент

TokenZen

Стабільна робота ШІ-агентів для програмування

TokenZen стоїть між агентом (Codex, Claude Code, Cursor та ін.) і API моделі та стежить за ознаками, що робота пішла не туди: та сама помилка знову й знову, роздутий контекст, неіснуючі бібліотеки, небезпечна команда. Коли ознаки з’являються, він втручається.

Підхід запозичено з психологічної практики: пауза, зміна кута зору, розвантаження пам’яті, повернення до базових правил.

Статус
Прототип (локальний, версія 0.1)
Напрям
Експеримент
Для кого
Розробники й команди, що доручають код ШІ-агентам
Два режими
Проксі (трафік агента проходить через TokenZen) і check-in (агент сам повідомляє свій стан)
Втручання
Digital Breathing, Context Exhale, Cool the Mind, Grounding
Доступ
За запитом

Статус

Прототип. Доступна обмежена демонстрація. Сервіс працює локально.

Для кого

Розробники й інженерні команди, які доручають код ШІ-агентам і хочуть бачити, що агент робить, коли щось іде не так.

Дослідники агентних систем, які працюють із контекстом, межами повноважень і контрольними точками.

Як це може працювати

Ситуація. Агент п’ять чи двадцять разів повторює те саме виправлення. Його історія розростається, і кожен крок дорожчає. Він вигадує бібліотеки або рухається до команди на кшталт видалення файлів. Звичайні інструменти моніторингу здебільшого показують це постфактум.

Система. TokenZen оцінює стан сесії на кожному запиті й, коли потрібно, втручається: підказка спробувати інший підхід, стиснутий контекст, знижена температура, повторена інструкція безпеки. Панель показує живі сесії, показники збою й журнали.

Людина. Розробник бачить, яке втручання застосовано і чому, може поставити сесію на паузу й вирішує, чи продовжувати агентові.

Що ми досліджуємо

Чи допомагають прийоми, запозичені з психологічної практики (пауза, зміна підходу, розвантаження пам’яті, нагадування про базові правила), вчасно виводити агента з глухого кута. Ми також дивимось, що це заощаджує в токенах і часі, і рахуємо це лише за реальними сесіями.

Втручання

Digital Breathing. Та сама помилка три й більше разів: системна підказка зробити крок назад і спробувати інший підхід.

Context Exhale. Перевищено поріг токенів: підсумок обсягом близько 500 слів замінює шум у контексті.

Cool the Mind. Виявлено галюцинацію: температура знижується до 0,1 і застосовуються стандартні шаблони.

Grounding. Виявлено руйнівну операцію або через задані інтервали: повторюється базова інструкція безпеки.

У режимі check-in агент або його обгортка сама повідомляє свій стан, а TokenZen відповідає порадою і за потреби ставить втручання в чергу.

Втручаннями керують фіксовані правила, пороги й шаблони. Другої моделі за ними немає.

Економію показано як прогноз і як виміряне значення, окремо за режимами. Відсотка заощаджених токенів ми наперед не називаємо.

Межі

TokenZen працює локально. Це не хостинговий сервіс, у ньому немає білінгу чи багатокористувацького режиму, і він охоплює лише OpenAI-сумісні й Anthropic-інтерфейси.

Він додає нагадування й точку паузи. Агента він не ізолює так, як це робить пісочниця.

Пороги втручань є робочими припущеннями, які ще треба налаштувати на реальних сесіях.

Доступ

Доступ надається за запитом. Умови використання погоджуються до початку роботи з проєктом.

Дослідницькі інструменти й прототипи HandS Lab не є каталогом комерційних продуктів. Якщо окреме прикладне рішення передбачає комерційне впровадження, його здійснює зовнішній оператор або партнер.