AI-агенты: что согласовать в рабочем процессе перед стартом
AI-агенты — это не просто ещё один чат-интерфейс. В рабочем процессе такой агент получает цель, доступ к инструментам и некоторую свободу действий, поэтому до запуска нужно договориться о рамках. Иначе команда получает систему, которая вроде бы отвечает на вопросы, но неясно, что ей можно, кто отвечает за результат и как остановить процесс. Ниже — практическая рамка согласований: от цели и ролей до данных, интеграций, сбоев и приёмки.
AI-агенты в рабочем процессе: что именно вы запускаете
Под AI-агентом в рабочих задачах понимают программного помощника, который воспринимает контекст, планирует шаги и может обращаться к инструментам: базе знаний, CRM, календарю, тикетнице или внутреннему API. Для команды важнее другое: агент не просто отвечает текстом, а совершает действия или предлагает их. Значит, до старта нужны правила, кто и на каком основании эти действия подтверждает.
Полезно разделить три сущности: чат-бота, сценарий автоматизации и AI-агента. Они могут выглядеть похоже в интерфейсе, но по-разному управляются и по-разному проверяются.
| Формат | Что делает | Свобода действий | Что согласовать |
|---|---|---|---|
| Чат-бот | Отвечает по сценарию или базе знаний в заданной теме | Низкая | Сценарии, тон, границы тем, передачу человеку |
| Автоматизация | Выполняет заранее описанные шаги по событию или правилу | Низкая или средняя | Триггеры, ошибки, ответственного, журнал действий |
| AI-агент | Планирует шаги и использует инструменты в рамках правил | Выше, чем у сценария | Цель, доступы, лимиты, контроль, эскалацию |
Чем AI-агент отличается от чат-бота и автоматизации
Чат-бот чаще работает в предсказуемом диалоге: отвечает по сценарию или базе знаний и редко выходит за пределы заданной темы. Автоматизация выполняет заранее описанную последовательность шагов: например, создаёт задачу по событию или пересылает заявку. AI-агент может выбирать следующий шаг в рамках правил, комбинировать инструменты и уточнять запрос. Чем выше свобода, тем важнее границы: какие инструменты доступны, какие действия требуют подтверждения и где агент обязан передать задачу человеку.
Минимальный набор компонентов для согласования выглядит так:
- цель и критерий успеха: какую работу агент должен ускорить или упростить;
- перечень инструментов и разрешённых действий;
- источники данных и правила доступа к ним;
- память: что хранить, на какой срок и кто может посмотреть;
- правила эскалации, остановки и ручной проверки;
- владелец процесса и регламент периодической проверки.
Если хотя бы один пункт не согласован, проект начинает жить в режиме догадок. Техническая команда делает одно предположение, бизнес — другое, а пользователи — третье. Поэтому следующий шаг — зафиксировать цель и роли в понятном документе, даже если он занимает одну страницу.
Цель, роли и границы: без этого агент превращается в неясный эксперимент
Формулировка «хотим внедрить AI-агента» слишком широкая для старта. Нужно описать конкретный участок рабочего процесса: что происходит сейчас, где возникает задержка или рутина, что должен сделать агент и что он делать не должен. Полезно сразу определить non-goals — действия и темы, которые остаются за пределами проекта. Это не бюрократия, а способ не расширять задачу до бесконечности.
Например, представим ситуацию: команда хочет, чтобы агент помогал разбирать входящие обращения. Тогда стоит согласовать, только ли он классифицирует обращения, или ещё готовит черновик ответа, или имеет право самостоятельно закрывать тикет. Каждый вариант требует разных доступов и разного уровня контроля. Если границы не описаны, агент может получить больше прав, чем нужно для пилота.
Роли лучше назначить до выбора инструмента. Владелец процесса отвечает за смысл задачи и итоговый результат. Технический владелец отвечает за интеграции, доступы, стабильность и журналирование. Пользователи или операторы дают обратную связь и участвуют в приёмке. Для вопросов безопасности, персональных данных и юридических требований стоит заранее определить, к кому направлять запросы, если такие вопросы возникают. Это особенно полезно, если команда работает в Эстонии или обслуживает клиентов в разных странах: применимые правила могут различаться, и их лучше проверять в официальном источнике, а не по внутренним догадкам.
Критерии готовности тоже относятся к границам. «Агент работает хорошо» — не критерий. Лучше договориться, какие задачи считаются типовыми, какие — спорными, сколько ручных проверок команда готова провести на пилоте и что считается основанием для доработки или остановки. Конкретные числа зависят от процесса; их не нужно придумывать заранее, но принцип измерения стоит согласовать до старта.
Данные и доступы: что согласовать до первого запуска
Данные — самая чувствительная часть проекта. Агенту может понадобиться база знаний, история обращений, каталог товаров, внутренние инструкции или записи в CRM. До подключения нужно понять, какие данные действительно нужны для задачи, в каком виде агент их видит, где они хранятся и кто имеет к ним доступ. Если агент опирается на базу знаний, отдельно согласуйте источник, порядок обновления и права доступа — этот блок пересекается с материалом о RAG и базах знаний.
Практический принцип — минимально необходимые права. Если агенту нужно только читать инструкции, не давайте ему право изменять их. Если нужно создавать черновик ответа, не давайте право отправлять ответ без проверки. Если нужно смотреть статус заявки, не открывайте доступ ко всей истории клиента. Такое разделение снижает риск случайных действий и упрощает проверку.
Отдельно проговорите, что агент может хранить в памяти и в логах. Например, представим, что агент помогает готовить ответы на обращения. Ему может быть достаточно видеть текст обращения и статью базы знаний, но не нужно сохранять полные персональные данные в отдельном хранилище. Если логи нужны для отладки, стоит согласовать, кто их читает, как долго они хранятся и как удаляются. Это не юридическая инструкция, а рабочий вопрос, который лучше закрыть до запуска.
| Область | Вопрос для согласования | Кто подтверждает | Артефакт |
|---|---|---|---|
| Цель и границы | Какую задачу решаем и что агент не делает? | Владелец процесса | Описание сценария и non-goals |
| Данные | Какие данные можно читать, хранить и передавать? | Владелец данных, юрист или DPO | Карта данных и правила обработки |
| Доступы | Какие системы и действия разрешены? | Владелец системы | Матрица доступов |
| Интеграции | Какие API и инструменты использует агент? | Технический владелец | Схема интеграций и лимиты |
| Сбои | Что делать при ошибке, таймауте или сомнении? | Владелец процесса | Сценарий эскалации и остановки |
| Приёмка | По каким критериям считаем пилот успешным? | Заказчик и владелец процесса | Критерии приёмки и отчёт |
Если в проекте участвуют внешние подрядчики или несколько команд, зафиксируйте, кто владеет данными и кто может менять правила доступа. Без этого легко получить ситуацию, когда доступ есть у всех, а ответственности нет ни у кого. Для технических требований и критериев приёмки полезно заранее договориться о документации; похожая логика согласований описана в материале о разработке ПО перед началом работ, хотя контекст там другой.
Интеграции, сбои и передача человеку: рабочие договорённости
AI-агент редко работает в вакууме. Он подключается к почте, мессенджеру, CRM, базе знаний, календарю или внутренней системе. Каждая интеграция — это не только техническое соединение, но и набор правил: что агент может читать, что может изменять, как часто он обращается к системе и что происходит при ошибке. Чем больше инструментов, тем выше требования к контролю.
До старта стоит разделить действия на чтение, подготовку черновика и изменение. Для чтения достаточно узкого доступа. Для подготовки черновика нужен понятный сценарий проверки человеком. Для изменения — подтверждение, лимиты и журнал действий. Если агент должен отправлять письма или создавать записи, согласуйте, в каких случаях это разрешено автоматически, а в каких требуется ручное подтверждение.
Как описать исключения и остановку
Сбои — нормальная часть работы системы. Лучше не делать вид, что их не будет, а заранее описать поведение агента в спорных ситуациях. Что делать, если API недоступен? Если ответ базы знаний противоречит инструкции? Если запрос пользователя выходит за разрешённую тему? Если агент не уверен в действии? Для каждого случая нужен понятный сценарий: остановиться, задать уточняющий вопрос, передать человеку или зафиксировать ошибку и продолжить с ограничениями.
Передача человеку — отдельный процесс, а не кнопка «эскалация». Нужно согласовать, куда попадает задача, какие данные прикладываются, кто и в какой срок её видит, как пользователь узнаёт о передаче. Если это внутренний процесс, достаточно описать роль и очередь. Если внешний — стоит проверить, не создаёт ли передача дополнительных обязательств по срокам или коммуникации. Конкретные сроки и правила лучше брать из вашего регламента или официального источника, а не из общих предположений.
Чек-лист перед подключением интеграций:
- Определён список систем и API, к которым обращается агент.
- Разделены read-only и write-действия.
- Есть лимиты на частоту и объём операций.
- Описаны таймауты, повторы и уведомления об ошибках.
- Назначен человек для спорных случаев и передача ему описана.
- Есть журнал действий и понятный способ остановить агента.
Журнал действий стоит проектировать так, чтобы по нему можно было ответить на простые вопросы: что агент сделал, на основании каких данных, кто это подтвердил и что произошло дальше. Это помогает не только при разборе инцидентов, но и при приёмке. Если логов нет, команда вынуждена верить, что агент работает правильно, вместо того чтобы проверять это на фактах.
Пилот и приёмка: как зафиксировать результат без иллюзий
Пилот нужен не для того, чтобы «посмотреть, как пойдёт», а для проверки конкретных договорённостей на ограниченном участке. До старта определите, какие задачи входят в пилот, кто участвует, как собирается обратная связь и что считается успехом. Лучше, если у пилота есть владелец и дата промежуточного разбора. Дата не обязана быть жёсткой, но она помогает не растягивать эксперимент на неопределённый срок.
Метрики стоит выбирать под процесс, а не под красивый отчёт. Для поддержки это может быть доля обращений, которые агент корректно классифицировал, и доля передач человеку. Для внутренней базы знаний — доля ответов, которые подтверждены источником. Для операционных задач — количество действий, выполненных без ошибок и без лишних доступов. Числовые пороги команда определяет сама; без источника не стоит брать их из чужих презентаций. Важнее, чтобы критерии были согласованы до пилота и не менялись задним числом.
Приёмка включает не только качество ответов. Проверьте, что доступы соответствуют матрице, логи пишутся, сценарии сбоев работают, передача человеку понятна, а пользователи знают, как остановить агента. Если что-то не проверено, это остаётся риском, даже если демонстрация прошла гладко. После пилота команда решает: расширять область, дорабатывать или остановить проект. Решение лучше фиксировать письменно, чтобы следующий этап не начинался с новых догадок.
Для небольшой команды роль пилота может быть скромной: один процесс, ограниченный круг пользователей, ручная проверка результатов и обязательный разбор ошибок. Для более крупного проекта может понадобиться отдельный контур тестирования и согласование с владельцами систем. Масштаб зависит от риска, но логика остаётся похожей: сначала узкая рамка, затем проверка, затем расширение.
С чего начать согласование AI-агента?
Начните с описания задачи и границ: какую работу агент должен ускорить или упростить, какие действия ему запрещены, кто владелец процесса и по каким критериям команда поймёт, что пилот удался. Затем зафиксируйте данные, доступы, интеграции и сценарии сбоев. Такой порядок помогает не начинать с выбора инструмента, а сначала договориться о результате.
Нужен ли AI-агенту доступ ко всем данным компании?
Нет, широкий доступ не является обязательным условием. Достаточно минимального набора данных и инструментов, без которых задача не решается. Доступы лучше выдавать по принципу минимальной необходимости, разделять чтение и запись, вести журнал действий и периодически пересматривать права.
Как понять, что AI-агент работает корректно?
Заранее согласуйте критерии: точность выполнения задачи, долю случаев, которые агент передаёт человеку, соблюдение запретов, наличие логов, скорость ответа и стоимость владения в широком смысле. Конкретные пороги зависят от процесса; их стоит зафиксировать до пилота, чтобы не подгонять оценку под результат после.
Можно ли запускать AI-агента без пилота?
Технически запуск возможен, но без ограниченного пилота сложнее увидеть ошибки, лишние доступы и непонятные сценарии. Пилот помогает проверить агента на узком участке, собрать обратную связь и только потом расширять область применения. Если проект небольшой, роль пилота может выполнять ограниченный режим с ручной проверкой.
Кто должен отвечать за AI-агента в рабочем процессе?
Нужен владелец процесса, который отвечает за смысл задачи и результат, и технический владелец, который отвечает за интеграции, доступы и стабильность. Для вопросов персональных данных и безопасности стоит заранее определить, к кому направлять запросы. Без такого разделения ответственность размывается.
Как быть с персональными данными?
Сначала определите, какие персональные данные агент действительно видит, зачем они нужны, где хранятся и кто имеет доступ. Не выдавайте лишние права и не используйте реальные данные там, где можно обойтись тестовыми. Применимые требования и порядок обработки проверьте у юриста, DPO или на официальном сайте компетентного органа.