Автоматизация с ИИ: что она реально берёт на себя, а что — нет

На встрече кто-то предлагает «автоматизировать это с помощью ИИ», и в комнате рождаются две разные картинки. Один слышит: «машина возьмёт на себя вообще всё, включая решения о клиентах, без единого человека в цепочке». Другой слышит ту же фразу как модный способ сказать «мы напишем скрипт». Обе картинки неточны, и путаница обходится в реальные деньги: один бизнес покупает автоматизацию, ожидая, что она заменит суждение, и получает разочарование; другой отказывается от безопасного и полезного инструмента только потому, что слово «ИИ» прозвучало рядом со словом «решает».

Между этими двумя случаями есть настоящая, проверяемая граница, и проходит она не по линии «человек или ИИ», а по линии «задача или решение». Понять, на какой стороне этой границы находится конкретный кусок вашего процесса, дешевле до подписания договора, чем после первой жалобы клиента.

1. «Автоматизация» — на самом деле два разных обещания

На одной и той же презентации одно слово значит разное для разных людей. Для одного «система сделает это за меня» звучит как обработка текста и перенос данных. Для другого та же фраза значит «система примет решение по этому вопросу».

Разница не терминологическая, а функциональная. Классификация, извлечение и черновик — это случаи, когда модель разбирает вход и выдаёт результат в заданном формате; ошибочный результат никуда не уходит сам, пока его не увидит человек. Решение — другое дело: результат сам становится действием — деньги возвращаются, доступ закрывается, цена меняется — и человека в этой цепочке уже нет.

Первый вопрос при любом предложении «давайте это автоматизируем» — увидит ли кто-то результат до того, как он на кого-то повлияет? Если ответ «нет», разговор уже не про задачу, а про решение, и это отдельный разговор со своими правилами.

2. Что действительно можно доверить ИИ: три вида задач

Классификация — разложить входящее по категориям

Почта, колонка «новое» в CRM, сообщения в мессенджере — всё сваливается в одну кучу, и сотрудник понимает срочность только открыв каждое сообщение по отдельности.

Классификация — самая безопасная задача для модели, потому что ошибка дёшева: неверно отмеченное сообщение никуда не пропадает, оно просто лежит не в той папке, и человек поправляет это одним взглядом.

Определите сами 5-8 категорий («вопрос о цене», «жалоба», «статус заказа»...) и дайте модели закрытый выбор между ними вместо открытого вопроса — точность на закрытом наборе заметно выше.

Извлечение — достать нужные данные из документа

Счёт, бланк заказа, квитанция — данные уже есть на бумаге или в PDF, а кто-то вручную перепечатывает их в систему.

Извлечение можно проверить механически: цифру, которую достала модель, легко сверить прямо с исходным документом, и расхождение видно сразу, а не всплывает потом.

Заранее зафиксируйте список обязательных полей; если поле не найдено, модель должна оставить его пустым и пометить, а не угадывать — угаданная цифра обходится дороже пустой ячейки.

Черновик ответа — написать, а не отправить

Служба поддержки десятки раз в день пишет почти один и тот же ответ на похожие вопросы.

Черновик экономит время, потому что человек редактирует, а не пишет заново, — это заметно быстрее. Но в момент, когда одна и та же система и пишет, и сама отправляет без чтения человеком, черновик перестаёт быть черновиком и становится решением, а вместе с ним молча меняется и то, кто за него отвечает.

Черновик всегда должен попадать в очередь на проверку, а не напрямую клиенту — простое правило «кто нажал “отправить”», которое потом легко подтвердить по логу.

3. Что нельзя доверять ИИ: решение и ответственность

Автоматический возврат денег, автоматическая блокировка аккаунта, автоматическое изменение цены — их тоже продают под словом «автоматизация», но их последствия не отменить одним кликом.

У результата модели нет встроенного индикатора собственной уверенности — ошибочный ответ написан с той же убедительностью, что и верный, и снаружи их не отличить. И ответственность к модели никогда фактически не переходит: если клиент получил неверный ответ или аккаунт закрыт по ошибке, отвечать перед клиентом или судом будете вы, а не алгоритм. Это не наша перестраховка — европейское регулирование персональных данных уже провело именно эту черту: статья 22 GDPR закрепляет право человека на вмешательство, если решение с юридическими или значимыми последствиями принято полностью автоматически.

На каждом шаге, где есть финансовые, юридические или репутационные последствия, должно оставаться подтверждение с именем конкретного человека, и это подтверждение должно логироваться — кто, когда и на каком основании его дал.

4. Реальный пример: путь одного обращения

Клиент отправляет заявку с сайта. Модель определяет категорию («вопрос о цене»), достаёт номер заказа из текста, если он там есть, и пишет черновик ответа на основе похожих прошлых случаев. Всё, что происходит до этой точки, — задача. Сотрудник поддержки открывает черновик, при необходимости правит его и сам нажимает «отправить» — решение принимается именно в этот момент, руками человека. Настройка самой системы идёт в том же порядке: сначала определяют, какие повторяющиеся процессы вообще подходят для автоматизации, затем договариваются, что остаётся под контролем человека, и только после этого выстраивают поток и проверяют его на реальных данных.

5. Три вопроса, которые стоит задать себе перед началом

1. Увидит ли кто-то результат этого шага до того, как он на кого-то повлияет?
2. Во что обходится ошибка модели, а она рано или поздно случится, — это потеря времени, или деньги, клиент, юридический риск?
3. Кто и насколько прозрачно оплачивает стоимость этого процесса, включая расход на использование самой модели?

ИИ ускоряет работу, а не берёт на себя ответственность за неё — относитесь с подозрением к любому предложению, которое продаёт обе эти вещи одной фразой.

Найти эту границу в собственных процессах проще всего с одной отправной точки: какие повторяющиеся задачи у вас есть и какие из них должны остаться в руках человека. Наша услуга автоматизации с ИИ построена именно на этом разделении, заранее закреплённом письменно, а расход на использование модели оплачивается прозрачно с вашего собственного счёта, без скрытой наценки.