GoPractice!

Разбор кейса про внедрение ML/AI для оптимизации процессов службы поддержки в крупном продукте

Описанный ниже кейс вдохновлен опытом компании VK, которым они делились в докладе «Поддержка VK: как оставаться поддержкой с человеческим лицом, внедряя ML».

Команда выбрала подход с использованием генеративного AI для того, чтобы делать подсказки ответов агентам. Этот подход позволил сократить время до первого ответа пользователю и время решения проблемы пользователя в пять раз. Это очень существенный результат.

Как было реализовано выбранное решение

Давайте подробнее разберем, как именно работал выбранный способ внедрения ML/AI и в чем его выгоды относительно альтернативных вариантов.

Суть подхода:

▪️ Генеративная модель обучалась in-house на огромной выборке решенных обращений пользователей (команде были доступны большие объемы исторических данных).
▪️ При появлении нового обращения модель генерировала несколько потенциальных вариантов ответов.
▪️ Агент быстро просматривал эти варианты ответа и выбирал наиболее подходящий.
▪️ Далее агент мог скорректировать ответ и отправить его пользователю.

Почему выбранный выше подход — грамотное решение для внедрения AI в таком крупном проекте?

Многие команды допускают ошибку, когда сразу пытаются передать ML-модели либо всю важную работу, либо очень значимые ее куски. Однако намного эффективнее как минимум начинать с модели copilot, когда ML/AI помогает закрывать рутинные и повторяющиеся задачи, а финальное решение и ответственность остается за человеком.

Плюсы такого подхода:

▪️ Благодаря ручной проверке нет репутационных рисков для компании, ведь модель может сгенерировать все что угодно, включая токсичную или некорректную информацию.
▪️ Генеративные модели позволяют формировать ответы на вопросы пользователей, которые похожи на ответ сотрудника поддержки (как это происходит, мы разбирали в статье).
▪️ Наличие потенциальных вариантов ответов позволяет существенно повысить эффективность работы агента, сокращая время на поиск необходимых деталей, формирование и набор ответа.

Когда имеет смысл обучать собственную генеративную модель для автоматизации процессов в поддержке

Выбранный подход с обучением собственной генеративной модели будет оптимальным решением далеко не для всех продуктов и ситуаций.

Обучение отдельной генеративной модели может быть оправдано, если:

▪️ Компания обладает экспертизой и большим количеством ресурсов (финансовых и вычислительных), чтобы самостоятельно обучить и заточить под свои нужды большую языковую модель (LLM). Только вычислительные затраты на обучение такой модели могут составлять сотни тысяч долларов.
▪️ Компания не может использовать внешние сервисы с LLM, так как не может передавать данные за пределы своего IT-контура.

В других случаях можно либо полагаться на внешние сервисы, либо же искать другие пути оптимизации процессов с помощью AI.

Потенциальные подходы для автоматизации службы поддержки с помощью ML/AI

Выше мы разобрали конкретный кейс, а ниже мы дадим более общие рекомендации по подходу к задаче автоматизации службы поддержки с помощью ML/AI.

Один из распространенных и универсальных подходов для оптимизации процессов службы поддержки — это использование ML-модели для классификации тем обращений пользователей и применения различных алгоритмов/сценариев в зависимости от темы.

Этот вариант подходит для компаний любого масштаба и для решения любых кейсов. В том числе, если сценарии обработки запросов предполагает решения финансовых вопросов или обработку персональных данных.

Затем поверх классификации тем можно пытаться еще глубже автоматизировать ответы по конкретным темам.

Например, если для ответов по определенной теме всегда используются шаблоны и сотрудники не принимают решений, которые несут финансовые, репутационные или другие риски, то можно попробовать заменить агентов на генеративную модель.

Если же ответы подразумевают более глубокое понимание контекста и проблемы, либо же есть риски, то генеративную модель (чаще дообученную генеративную модель в облаке) можно использовать в качестве помощника для агента.

16.5K viewsedited 09:28