AI-автоматизация: как встроить AI в процессы с проверками и передачей исключений человеку
AI-автоматизация начинается не с выбора модели, а с вопроса: где именно AI-шаг встроится в процесс, что он получит на входе, какие действия ему разрешены и кто заберёт исключение. Если этот контур не описан, автоматизация быстро превращается в «чёрный ящик»: сотрудники не понимают, когда доверять результату, а руководитель — где искать ошибку. Ниже — практический разбор того, как встроить AI-обработку в рабочие процессы с проверками и передачей исключений человеку.
Что значит встроить AI-обработку в рабочий процесс
Рабочий процесс — это не только последовательность действий, но и набор правил: кто принимает решение, какие данные считаются достаточными, что происходит при ошибке. AI-обработка добавляет в этот процесс шаг, где модель интерпретирует текст, документ, обращение или набор данных и предлагает результат. Встраивание означает, что этот шаг получает понятный вход, проходит проверки и либо выполняет разрешённое действие, либо передаёт случай человеку.
Минимальный контур AI-автоматизации выглядит так:
- Вход: определите источник данных, формат, права доступа и обязательные поля. Если на вход может прийти неполный или устаревший документ, это должно быть видно до AI-шага.
- Подготовка: очистка, разбиение на части, обогащение справочниками и проверка актуальности. Здесь же стоит отсекать дубли и явно неподходящие случаи.
- AI-шаг: классификация, извлечение полей, генерация черновика, сравнение вариантов или другой ограниченный результат. Чем конкретнее задача, тем проще проверить output.
- Проверки: формат, бизнес-правила, запрещённые действия, ссылка на источник, согласованность с входом и защита от повторного выполнения.
- Решение: автоматическое действие, черновик для человека или исключение. Это решение должно быть явным, а не «по умолчанию».
- Журнал: вход, результат, версия сценария, пройденные проверки, кто утвердил и что произошло дальше. Без журнала невозможно разобрать спорный случай и улучшить процесс.
Если хотя бы один слой не описан, процесс становится хрупким. Например, AI красиво формулирует ответ, но никто не проверил, тот ли это клиент и нет ли в ответе обещания, которое компания не может выполнить. Или модель правильно классифицировала обращение, но система повторно отправила его в обработку и создала дубль. Поэтому AI-автоматизация — это в первую очередь проектирование проверок и исключений, а уже потом выбор инструмента.
Перед выбором платформы полезно определить, что вообще нужно проекту: интеграции и процессы или отдельный бот для одной задачи. Разбор этого выбора есть в материале «Интеграции и процессы для проекта: как выбрать между направлениями «AI-автоматизация» и «Боты для бизнеса». Такой шаг помогает не автоматизировать лишнее и не строить сложную систему там, где достаточно узкого сценария.
Сначала процесс, потом модель: как выбрать участок для AI-автоматизации
Начинать с вопроса «какую модель взять» рано. Сначала выберите участок, где AI-обработка даст понятную пользу и не создаст неуправляемый риск. Практичные критерии: задача повторяется; у неё есть стабильный вход; результат можно проверить; ошибка не приводит к необратимым последствиям; есть человек, который готов разбирать исключения.
Повторяемость важнее эффектности. Если процесс каждый раз уникален, AI-шаг будет трудно проверить, а исключения — невозможно классифицировать. Если же речь идёт о типовых обращениях, однотипных документах или регулярной сортировке заявок, появляется база для правил и выборки. Проверяемость тоже критична: результат должен допускать сравнение с входом, справочником или бизнес-правилом. Если проверить можно только «на глаз», автоматизация будет держаться на доверии, а не на контроле.
Цена ошибки задаёт режим. Для внутренней черновой сортировки допустим более автономный сценарий. Для действий, которые меняют данные клиента, влияют на деньги, документы или обязательства, нужен человек или как минимум обязательное утверждение. Это не означает, что такие процессы нельзя автоматизировать; это означает, что автоматизация должна быть устроена как помощник с контрольной точкой.
Хороший первый сценарий — не «AI для всего отдела», а один тип операций: например, подготовка черновика ответа на типовое обращение, извлечение полей из однотипного документа или сортировка входящих запросов по категориям. Представим ситуацию: команда получает заявки на нескольких языках и вручную раскладывает их по темам. AI может предложить категорию и краткое резюме, но спорные случаи должны уходить человеку, а итоговая категория — сохраняться в журнале. Такой пилот проще ограничить, измерить и остановить, если он не оправдал ожиданий.
Для команды в Эстонии, которая работает с эстонским, русским и английским языками, отдельная проверка — качество обработки на каждом языке. Не делайте вывод по одному переводу: проверьте на своих типах документов и обращений, где AI ошибается чаще и нужен ли человек на конкретном языке. Это не бюрократия, а часть проектирования исключений.
Три режима контроля: автоматически, с проверкой, только человек
Не всякая автоматизация с AI должна быть полностью автономной. Практичнее разделить операции по режимам контроля и заранее решить, что происходит с результатом: он выполняется сам, утверждается человеком или остаётся человеку целиком.
| Режим | Когда подходит | Роль человека | Что важно проверить |
|---|---|---|---|
| Полная автоматизация | Задача узкая, правила стабильны, ошибка дешева и обратима | Смотрит журнал и выборочно разбирает результаты | Ограничения действий, повторные запуски, откат |
| AI с обязательной проверкой | Результат влияет на клиента, деньги или документы, но задачу можно разбить на шаги | Утверждает, исправляет или отправляет на доработку | Критерии приёмки, источник данных, версия результата |
| Только человек | Высокая цена ошибки, нет проверяемых данных или нужна юридическая, медицинская или финансовая оценка | Решает сам, AI может готовить черновик или подсказку | Ответственность, запрет автоматического действия |
Режим — это не характеристика модели, а решение команды. Один и тот же AI-шаг может готовить черновик письма в одном процессе и не иметь права отправлять письмо в другом. Такое разделение полезно фиксировать в описании процесса: какие действия разрешены автоматически, какие требуют подтверждения, а какие запрещены полностью.
Порог уверенности, если он используется, должен быть параметром проекта, а не универсальной цифрой из статьи. Его проверяют на пилоте: смотрят, сколько случаев уходит в исключения, какие ошибки остаются и сколько времени тратит человек на проверку. Если порог сделать слишком мягким, очередь исключений может стать неподъёмной; если слишком жёстким — автоматизация будет часто останавливаться. Настраивайте это по своим данным и не переносите чужое значение без проверки.
Полезно разделять «AI предлагает» и «система выполняет». Между этими шагами должна быть точка, где срабатывают правила: лимиты, роли, запрещённые операции, обязательные поля. Тогда автоматизация не превращается в прямой доступ модели к действиям, которые никто не контролирует.
Проверки: что должно происходить до и после AI-шага
Проверки нужны не для того, чтобы не доверять AI вообще, а чтобы отделить случаи, где результат достаточно надёжен, от случаев, где нужен человек. Их удобно делить на входные, процессные и выходные.
Входные проверки
До AI-шага система должна убедиться, что на вход пришло то, что ожидалось. Проверьте формат и обязательные поля, наличие прав доступа, актуальность источника и отсутствие дублей. Если документ повреждён, язык не определён или данных недостаточно, AI-шаг лучше не запускать: он может выдать правдоподобный, но бесполезный результат. Для повторяющихся операций полезно сохранять идентификатор входа, чтобы понимать, откуда взялся результат и не обрабатывается ли один и тот же случай дважды.
Отдельно проверяйте границы задачи. Если сценарий рассчитан на типовые заявки, а на вход пришёл нестандартный запрос, это должно стать исключением, а не поводом «дотянуть» ответ любой ценой. AI-автоматизация выигрывает не тем, что отвечает на всё, а тем, что надёжно обрабатывает свой участок и честно передаёт остальное.
Проверки результата
После AI-шага проверяйте не только «похоже ли на правду», но и соответствие правилам процесса. Рабочий набор проверок может выглядеть так:
- Соответствие формату и бизнес-правилам: заполнены обязательные поля, нет запрещённых формулировок, соблюдены ограничения по действиям.
- Согласованность с входом: результат не добавляет факты, которых не было в источнике, и не путает клиентов, документы или суммы.
- Ссылка на источник: для решений, где важна проверяемость, сохраняйте фрагмент или идентификатор данных, на которые опирался AI.
- Запрещённые действия: отправка, изменение, удаление или публикация должны быть отдельно разрешены и ограничены ролями.
- Повторяемость: повторный запуск не должен создавать дубль, повторное списание или второе письмо клиенту.
- Права и роли: человек или система могут выполнить действие только в рамках своих полномочий; повышение прав не должно происходить автоматически.
Отдельный слой — идемпотентность и журнал. Если AI-шаг запускается повторно, система должна понимать, что действие уже выполнено, и не дублировать его. В журнале полезно хранить вход, результат, версию сценария или промпта, пройденные проверки и того, кто утвердил действие. Это помогает не искать виноватого, а разбирать причину: изменился вход, сработало правило, модель повела себя иначе или человек пропустил исключение.
Проверки не обязаны быть одинаковыми для всех случаев. Чем выше риск, тем больше контроля: где-то достаточно формата и выборочного просмотра, где-то нужно обязательное утверждение и сохранение источника. Главное — чтобы проверка была выполнимой и не превращалась в формальность, которую все пропускают.
Передача исключений человеку: как сделать её рабочей, а не формальной
Исключение — это не сбой, а штатный элемент процесса. Оно появляется, когда AI не уверен, данные неполные, сработало правило или цена ошибки слишком высока. Задача не в том, чтобы исключений не было, а в том, чтобы они приходили человеку в понятном виде и не терялись.
Очередь исключений должна отвечать на вопросы: что случилось, почему AI не справился, что уже проверено, какое действие предлагается и кто должен решить. Если человеку приходится открывать пять систем, чтобы понять контекст, передача исключения становится дороже самой автоматизации. Поэтому исключение стоит собирать как пакет, а не как уведомление «проверьте это».
- Краткое описание случая: что за обращение, документ или операция и почему они попали в исключение.
- Входные данные: исходный текст, файл, идентификатор клиента или заказа, ссылка на источник, но без лишних персональных данных, если они не нужны для решения.
- Результат AI: что модель предложила, какие поля извлекла, какой черновик подготовила и на что опиралась.
- Причина исключения: не прошла проверка, низкая уверенность, конфликт правил, нестандартный язык или запрещённое действие.
- Варианты действия: подтвердить, исправить, отклонить, запросить данные или вернуть в общий поток после доработки.
- Приоритет и владелец: кто отвечает за разбор и что считается завершением случая; без этого очередь превращается в свалку.
Важно разделять типы исключений. Техническая ошибка требует одного разбора, спорный смысловой случай — другого, а запрещённое действие — третьего. Если всё свалить в одну очередь, человек не сможет быстро понять, где нужна экспертиза, а где просто повторный запуск. Полезно также фиксировать, что человек изменил в результате: это обратная связь для правил, проверок и будущих сценариев.
У исключения должен быть понятный следующий шаг и срок реакции, установленный внутри команды. Не стоит обещать клиенту мгновенный ответ, если исключение может ждать несколько часов; лучше заранее определить, какие случаи срочные, а какие могут подождать. Это вопрос дизайна процесса, а не модели.
Перед запуском такого контура стоит согласовать роли, права и границы ответственности. Полезный разбор есть в статье «AI-агенты: что согласовать в рабочем процессе перед началом работ». Чем раньше команда договорится, кто утверждает действия и как передаются исключения, тем меньше сюрпризов будет на пилоте.
Пилот, метрики и масштабирование AI-автоматизации
Пилот нужен не для демонстрации модели, а для проверки процесса. Запустите AI-шаг на ограниченном участке, с понятным списком случаев и ручной проверкой результата. Хороший приём — теневой режим: AI обрабатывает те же входы, что и человек, но не влияет на клиента и данные. Так вы видите, где результат расходится, какие исключения появляются и сколько времени уходит на проверку.
Метрики выбирайте до пилота, иначе результат легко подогнать под ожидания. Полезны время на операцию, доля исключений, доля исправлений после AI, количество повторных запусков, стоимость проверки и число случаев, которые пришлось вернуть в ручной процесс. Не используйте одну цифру без контекста: скорость без качества может означать, что ошибки просто ушли дальше по процессу.
Сравнивайте сопоставимые участки. Если до пилота вы не фиксировали базовые показатели, оценить пользу будет сложно. Небольшой ручной замер на том же типе операций часто полезнее, чем общее ощущение «стало быстрее». При этом не выдумывайте целевые проценты заранее: они должны следовать из вашего процесса и допустимого уровня риска.
Масштабирование начинайте с расширения типов случаев, а не с расширения прав. Сначала добавьте новые языки, форматы или категории, сохраняя проверку. Затем решите, какие действия можно автоматизировать полностью, а какие останутся с утверждением. Если очередь исключений растёт быстрее, чем команда успевает разбирать, это сигнал пересмотреть границы задачи, проверки или порог, а не просто нанять больше людей.
Документация — часть автоматизации, а не бюрократия. Опишите, что подаётся на вход, какие проверки обязательны, какие действия запрещены, кто разбирает исключения и как откатить операцию. Это помогает новым сотрудникам и снижает зависимость процесса от одного человека, который «знает, как тут всё устроено».
Автоматизация с AI даёт устойчивый результат, когда процесс понятен без модели, проверки встроены в шаги, а исключения приходят человеку в готовом виде. Начинайте с ограниченного участка, измеряйте не только скорость, но и качество разбора, и расширяйте автономность постепенно. Тогда AI-обработка становится частью рабочего процесса, а не отдельным экспериментом, который живёт рядом с ним.
С чего начать AI-автоматизацию рабочего процесса?
С описания процесса и одного ограниченного участка. Определите вход, ожидаемый результат, разрешённые действия, цену ошибки и того, кто будет разбирать исключения. Затем запустите пилот в теневом режиме или с обязательной проверкой человека и зафиксируйте базовые показатели до изменения процесса.
Какие процессы нельзя полностью автоматизировать?
Те, где ошибка дорога, результат трудно проверить, нужна юридическая, медицинская или финансовая оценка либо есть персональные данные и обязательная отчётность. AI может готовить черновик или сортировать случаи, но решение и ответственность должны оставаться за человеком. Применимые требования проверьте в официальном источнике или у компетентного специалиста.
Как понять, что AI-шаг ошибается?
Сравнивайте результат с входом, бизнес-правилами и источником данных, ведите журнал и смотрите долю исключений, исправлений и повторных запусков. Полезно регулярно проверять выборку случаев, включая те, где AI был уверен. Если ошибки повторяются на одном типе входа, проблема может быть не в модели, а в правилах, данных или границах задачи.
Что должно быть в исключении для человека?
Контекст, входные данные, результат AI, причина исключения, варианты действия, приоритет и владелец. Человек не должен собирать это вручную из разных систем. Хорошее исключение отвечает на вопрос, что именно нужно решить и что считается завершением случая.
Нужен ли отдельный сотрудник для проверки AI?
Не обязательно. На старте проверку может выполнять владелец процесса или сотрудник, который уже разбирает такие случаи. Важно назначить роль, выделить время и описать эскалацию. Если поток исключений большой, может понадобиться отдельная очередь и регламент, но это зависит от объёма и риска процесса.
Как измерить пользу AI-автоматизации?
До пилота зафиксируйте базовые показатели: время на операцию, долю ошибок или исключений, стоимость проверки и количество повторных действий. После сравните результат на сопоставимом участке. Не используйте одну цифру без контекста: скорость без качества может означать, что ошибки просто перешли на следующий шаг.