Лимиты действий AI-агента записи: как остановить лишние запросы

Одно сообщение клиента может запустить несколько обращений: распознать услугу, проверить расписание, уточнить ресурс и обновить CRM. Поэтому ограничение «не больше двадцати сообщений» не показывает фактическую работу агента. И наоборот, длинное уточнение без внешних вызовов не обязательно создаёт большую нагрузку на календарь.

OWASP относит неконтролируемое потребление ресурсов LLM-приложений к отдельному риску Unbounded Consumption. Среди мер защиты перечислены квоты, ограничения частоты, тайм-ауты и контроль числа действий. Для записи это основание проектировать измеримые границы, а не считать любое продолжение диалога полезным.

Разделите ресурсы по смыслу: обращения к модели, поиск доступности, операции изменения и сервисные сообщения. Один общий показатель расходов полезен для наблюдения, но не заменяет ограничение опасного поведения. Дешёвый повтор создания брони может причинить больше операционных проблем, чем несколько дополнительных уточнений.

Привяжите счётчики к задаче записи и понятной области клиента, а не только к одному ответу модели. Если каждое сообщение начинает новый бюджет, просьба «проверь ещё раз» обходит ограничение без изменения намерения. При этом новый самостоятельный визит не должен навсегда наследовать исчерпанный лимит старой задачи.

Храните основание нового поиска: изменились дата, услуга, длительность, филиал или число участников. Если параметры прежние, а данные ещё актуальны в рамках правил системы, необязательно снова загружать тот же результат. Если актуальность уже потеряна, повторная проверка может быть необходима; экономия запросов не должна превращаться в обещание устаревшего слота.

При параллельной обработке несколько действий могут одновременно увидеть «осталась одна попытка». Ограничитель должен согласованно разрешить только допустимый объём работы, а не списывать счётчик постфактум у каждого. При перезапуске обработчика значимые ограничения сохраняются, иначе сбой или новое подключение фактически дают неограниченный бюджет.

Разделяйте ситуацию «не найден подходящий вариант» и ситуацию «результат создания неизвестен». В первом случае можно предложить уточнить параметры или передать запрос сотруднику. Во втором нельзя утверждать ни отсутствие, ни наличие брони без основания. Сообщите, что требуется проверка, и сохраните связь с уже отправленной операцией.

Остановка новых действий не должна автоматически отменять существующие обязательства. Если бронь подтверждена до исчерпания квоты, её статус сохраняется. Если временный резерв должен завершиться по собственному сроку, этот механизм работает по установленным правилам, а не по произвольной догадке модели.

Клиенту не обязательно видеть технический счётчик. Ему нужен честный ответ о результате и следующем действии: какие варианты найдены, что подтверждено, кто продолжит обработку. Не обещайте звонок за фиксированное время, если очередь сотрудника не обеспечивает этот срок. Внутри команды должна быть видна конкретная причина остановки.

Отдельно ограничьте повторные сообщения и постановку задач сотруднику. Иначе агент прекратит поиск, но создаст множество одинаковых обращений. У одной незавершённой задачи должен быть согласованный путь продолжения с актуальным состоянием, а не несколько конкурирующих запусков.

Попросите показать, где фактически хранится бюджет, как он переживает повтор сообщения и кто может его изменить. Пройдите ситуацию, когда клиент многократно просит проверить те же даты, и ситуацию, когда он действительно меняет условия. Должно быть видно различие между полезным уточнением и повторяющимся действием без прогресса.

Измеряйте обращения к инструментам на завершённую запись, долю остановок по причинам, повторные изменения одной брони и время до передачи сотруднику. Сумма технических расходов без результата задачи недостаточна: снижение числа запросов не является успехом, если выросла доля клиентов с непроверенным итогом.

Разделите предупредительный порог и обязательную остановку там, где это поддерживает внедрение. Уведомление о росте нагрузки помогает оператору, но не заменяет техническую границу. Отдельно подтвердите, что ограничитель не создаёт новую точку потери данных при перезапуске или недоступности своего хранилища.