Asana снизила стоимость задач браузерного ИИ-агента в 29 раз

Команда Asana 8 октября рассказала об оптимизации браузерного ИИ-агента в платформе StackAI, предназначенной для автоматизации работы с сайтами и веб-формами. По оценке компании, изменения в хранении истории запросов уменьшили стоимость выполнения одной задачи на исходной модели в 29 раз.

Более значительная экономия — в 76 раз — получилась при сравнении исходной конфигурации на анонимизированной модели B с оптимизированным вариантом на GPT-6.1 Sol. Asana отдельно подчёркивает, что это сравнение разных моделей и конфигураций, а не результат улучшения одной и той же модели в 76 раз.

Почему агент тратил токены повторно

Проблема была связана с устройством контекста. Агент сохранял в кэше системные инструкции и описания инструментов, однако на каждом шаге менял накопленную историю посещённых страниц и скриншотов. Из-за этого изменялось начало запроса, и поставщик модели не мог повторно использовать значительную часть уже обработанных токенов.

В результате история фактически снова оплачивалась как новый ввод. Дополнительные расходы возникали и из-за частой обрезки контекста: после удаления старых данных агенту иногда приходилось повторно открывать страницы.

Что изменила команда

Инженеры начали кэшировать не только инструкции и инструменты, но и историю взаимодействия. Допустимый объём сохраняемого текста увеличили со 120 до 480 тысяч символов, а поштучное удаление скриншотов заменили пакетной очисткой.

В одной из проверенных политик агент мог накопить до 20 снимков экрана, после чего сохранялся только последний. Благодаря этому большая часть префикса запроса оставалась неизменной между очистками, что повышало вероятность повторного использования уже обработанных токенов.

На исходной модели B оценочная стоимость одного прогона снизилась как минимум с 36,21 до 1,24 доллара — примерно в 29 раз. Для оптимизированного варианта на GPT-6.1 Sol средняя оценка составила 0,47 доллара, а выполнение занимало около четырёх минут. Заявленные 76-кратная экономия и пятикратное ускорение относятся к сравнению этого варианта с исходной конфигурацией на модели B.

Если сравнивать только разные настройки кэширования на Sol, при увеличении бюджета эксперимента расходы сократились в четыре раза. Исследование включало 144 основных и 12 дополнительных запусков на четырёх моделях. Каждая конфигурация решала одну задачу: собрать шесть полей о 32 книгах из демонстрационного каталога, обычно с тремя повторами.

Авторы не считают результаты независимым отраслевым бенчмарком и не утверждают, что любой ИИ-агент станет дешевле в 76 раз. Практический вывод эксперимента — перед сменой модели стоит измерить долю попаданий в кэш, частоту изменения истории и стоимость полностью завершённого задания. Именно эти параметры позволяют понять, даст ли оптимизация контекста реальную экономию.