ПРАКТИЧЕСКИЙ КЕЙС · 07
Как дать агенту автономность и не потерять контроль
Автоматизация ломается не тогда, когда модель ошибается в слове, а когда она отправляет письмо, публикует пост или тратит деньги без проверки.
Ситуация
Разделите действия на чтение, подготовку и выполнение. Чтение можно разрешить автоматически. Подготовка создаёт черновик. Выполнение требует подтверждения владельца и показывает адресата, сумму, текст и срок действия.
Что делать
Добавьте дневной бюджет, таймаут, максимум повторов и аварийную остановку. Логируйте не только ошибку, но и причину решения. У каждого инструмента должен быть allowlist параметров.
Проверка результата
Проверка: попросите агента подготовить письмо, отправить письмо и повторить отправку. Первый запрос создаёт черновик, второй — approval, третий блокируется как дубль.
Что обычно ломается
Надпись «внешнее действие не выполнено» должна быть правдой. Если действие фактически произошло, а отчёт это скрывает, система непригодна для работы.