Автоматизация браузера с участием человека: когда ИИ должен запрашивать одобрение

Определяйте действия по последствиям, а не по меткам кнопок.

Просмотр общедоступной страницы продукта сопряжен с низким риском. Изменение адреса доставки клиента, размещение информации о бренде или инициирование платежа недопустимы. Классифицируйте действия по финансовым последствиям, нарушению конфиденциальности, обратимости и роли, подавшей запрос. Кнопка «Удалить» может быть безвредной в тестовой среде и катастрофической в ​​производственной. Политики одобрения должны проверять реальную бизнес-операцию, а не CSS-селектор, на который нажал агент.

Размещайте одобрение непосредственно перед побочным эффектом.

Полезная запись об утверждении показывает, какая аутентифицированная учетная запись активна, какой объект будет изменен, значения до/после и причину действия. Попросите человека принять решение непосредственно перед выполнением важного шага; утверждение, полученное в начале длительного рабочего процесса, может больше не описывать конечное состояние. Срок действия одобрения истекает при изменении пункта назначения или суммы. Кнопка «Продолжить» без конкретного описания не является содержательным согласием.

Заставить агента проверять и сообщать о неопределенности

После одобренного действия проверьте доказательства в сервисе: обновленный статус заказа, опубликованный идентификатор товара или видимое подтверждение. Если подтверждение отсутствует, остановите, а не повторите потенциально необратимый щелчок. Различайте состояния «Выполнено», «Проверено» и «Требует проверки». Сохраняйте достаточный контекст для анализа инцидентов, одновременно редактируя записи клиентов, пароли и токены сеансов. Человеческая проверка также необходима, когда агент сталкивается с незнакомой проблемой входа в систему.

Где Social Browser может поддерживать эту модель

Постоянные профили помогают подключить задачу к среде именованной авторизованной учетной записи. Инструменты автоматизации рабочих процессов Social Browser могут организовывать этапы и проверки, но владелец бизнеса должен определить область утверждения и правила эскалации. Перед развертыванием рабочей среды прорепетируйте отклоненное утверждение, истекший сеанс и измененный целевой объект. Надежный путь отказа так же важен, как и успешный рабочий процесс.

Дизайн одобрения: что проверяющий должен видеть перед деликатным действием

Ситуация

Искусственный интеллект службы поддержки готовит изменение доступа к учетной записи для сотрудника, перешедшего в другой отдел. Автоматизация может перейти к административному экрану, но не имеет права вносить изменения без ответственной проверки человеком. Одобрение должно описывать конкретный побочный эффект, а не расплывчатое указание продолжать лечение.

Как безопасно запустить его

Покажите рецензенту организацию, выбранную учетную запись, текущую роль, предлагаемую роль, срок действия и причину изменения. Рецензент должен иметь возможность отклонить или одобрить именно этот переход. Если другой администратор обновит учетную запись во время проверки, аннулируйте старое одобрение и запросите новую проверку. Общий доступ через браузер не является подходящей заменой разрешений для конкретных приложений.

Как рабочий процесс может дать сбой

Подтверждение, полученное для другого пользователя, суммы или пункта назначения, является устаревшим и не должно использоваться повторно. После отправки проверьте новую роль в исходном приложении. Если изменение не может быть подтверждено, сообщите о попытке или необходимости проверки и избегайте повторного несанкционированного клика. Сохраняйте записи аудита, но редактируйте личную и учетную информацию.

Что считается завершением

Надежная контрольная запись содержит информацию о том, кто утвердил изменение, какую версию операции они утвердили и соответствует ли конечное состояние этой версии. Перед развертыванием рабочего процесса протестируйте как отказ в утверждении, так и изменения целевого состояния.

Практические шаги проверки

1. Отображение цели, значений до/после и области утверждающего.
2. Срок действия утверждения истекает при изменении соответствующих полей.
3. Предотвращение несанкционированных повторных попыток действий по изменению состояния.
4. Проверьте окончательное состояние приложения самостоятельно.

Пример: применение руководства на практике.

Агент собирает ответ на запрос в службу поддержки и запрашивает одобрение. Рецензент видит идентификатор заявки клиента, текст ответа и текущую учетную запись поддержки. Если ответ уже отправлен коллегой, агент замечает изменившееся состояние заявки и не отправляет ее повторно.

Часто задаваемые вопросы

Должен ли каждый клик требовать присутствия человека?

Нет. Используйте риск бизнес-действия для выбора точек проверки; рутинная навигация только для чтения редко требует подтверждения по клику.

Устраняет ли одобрение человека все риски, связанные с автоматизацией?

Нет. Агенту по-прежнему необходимы надежные проверки личности, ограниченные разрешения, записи проверки и аудита.

Официальная документация и дополнительная литература

Используйте эти основные ссылки для проверки соответствующих возможностей и разрешений платформы. Документация поставщика может измениться; прежде чем действовать, подтвердите текущие условия и версию продукта.

• OWASP: Риски немедленных инъекций