Внутренний AI-проект Amazon обошелся в $1,8 млн после перерасхода на 860%

Неудачное внедрение было связано не с особенно сложной инженерной задачей, а с обработкой данных каталога: Claude Sonnet должен был сопоставлять сведения об авторах с листингами на Amazon. По внутренним метрикам, приведенным со ссылкой на Financial Times, расходование токенов вышло из-под контроля, а итоговая стоимость достигла $1,8 млн. В компании ситуацию выявили только спустя около пяти месяцев, когда перерасход уже составил 860% относительно бюджета.

Этот случай оказался крупнейшим, но не единственным. Проект по созданию инструмента финансового аудита принес дополнительные расходы в $541 тыс., а система, которая должна была сокращать сроки доставки в логистической сети, — еще $134 тыс. Внутренние отчеты описывают качественное изменение масштаба ошибки: действия, которые раньше обходились почти бесплатно, при работе AI-агентов и интенсивном потреблении токенов могут становиться «катастрофически дорогими».

Риск возникает из-за сочетания автономности и тарификации по объему вычислений. Агент способен многократно вызывать модель, повторять неудачные операции и порождать длинные цепочки запросов без немедленного человеческого контроля. Если расходы отслеживаются только на уровне месячного или квартального бюджета, технически исправный цикл может продолжать сжигать деньги неделями. В материале также отмечается, что некоторые компании исчерпывают годовые лимиты за считаные недели после перехода от подписок к оплате за токены.

Amazon возражает против обобщения отдельных инцидентов на все использование AI внутри компании. В корпоративной презентации она назвала происходящее обычным процессом экспериментов, обучения и повышения экономической эффективности, подчеркнув, что выбор нескольких изолированных примеров не отражает повседневную работу всех команд. Для бизнеса масштаба Amazon суммы действительно невелики относительно квартальной выручки свыше $181 млрд, но сами механизмы перерасхода остаются показательными.

Компания уже сталкивалась и с другими последствиями чрезмерных полномочий AI-инструментов. После сбоев AWS, связанных с ошибками кодирующих ботов, доступ агентов ограничили, перестав выдавать им разрешения уровня старших инженеров. Amazon также отказалась от внутреннего рейтинга сотрудников по интенсивности использования AI, когда рост затрат заставил пересмотреть стимулирование. Оба решения смещают акцент с максимального числа обращений к модели на контролируемый и измеримый результат.