Снижение затрат на работу ИИ-агентов на 88%

Снижение затрат на работу ИИ-агентов на 88%

Разработчики программного агента Pi представили архитектурное решение для оптимизации работы с контекстной памятью. Вместо того чтобы хранить все промежуточные результаты работы инструментов в дорогой памяти модели, система записывает их на диск и извлекает только нужные фрагменты по запросу.

Такой подход позволил снизить расходы на обработку данных на 88% и сделать работу агентов более стабильной при выполнении длительных задач.

Ссылка: https://github.com/earendil-works/pi @AIandproducts