Как использовать нейросети для автоматизации клиентских взаимодействий
Боты и человеческий фактор - бич работы с потребителями для большинства современных компаний. Задачи и попытки автоматизации клиентского обслуживания появились одновременно с первыми электронными компонентами. Сначала были попытки заменить условную «женщину за окошком» на железного человека - робота, потом, с развитием голосовых коммуникаций на генерируемый голос на той стороне телефонной линии. А развитие чатов привело к появлению там ненавистных многим «ботов». Кто хоть раз не писал в чат «Дайте мне человека!» или «Оператора!», можете отметиться в комментариях к данной статье.
Все хотят общаться с живым человеком, а не с бездушной машиной. Клиенты хотят получить быстрый и грамотный ответ и в скорости обработки информации и выдаче ее в сжатом и лаконичном виде человек проигрывает компьютеру во много раз. С другой стороны стоят ожидания руководства компании, которое видит в AI-консультанте не просто еще одну базу с данными, а полноценную замену сотрудников, которая при этом будет менее затратной. Как же соблюсти баланс между «ботобоязнью» и автоматизацией? Ниже мы попытаемся разобраться в этом вопросе и выработать критерии к такому АИ-консультанту и дать рекомендации по его созданию и пониманию, нужен ли он для вашей компании.
Тест Тьюринга или как превратить бота в AI-консультанта
Для того, чтобы сделать бота-консультанта человечнее прежде всего нужно понять, а что именно хочет клиент от консультанта. Для этого воспользуемся исследованиями компании Molver, где они приводят критерии, которые нужны чтобы «замаскировать» AI-консультанта под человека:
-
Ограничение по ключевым словам и темам. AI-консультант не должен уводить разговор с темы непосредственно связанной с продажами и товаром. Если клиент интересуется расстоянием до Альфа Центавра, то электронный консультант должен говорить, что это интересный вопрос, но давайте вернемся к вопросам о покупках. С другой стороны та же «Альфа Центавра» может быть маркой бытовой техники или косметики и AI-консультант должен распознать этот момент и не забанить вопрос о товаре.
-
Сбор паттернов поведения и фидбека в режиме «Теста Тьюринга». В процессе обучения нужно использовать для тестирования настоящих менеджеров по работе с клиентами. Например ботов часто выдает отсутствие паразитных слов, ошибок в речи и клишированные обороты, делающие их ответ стерильным или непрофессиональное поведение. Собирая обратную связь от реальных людей, можно понять что их выдает, как ботов, и где и что необходимо донастроить у AI-консультантов.
-
Построение датасетов обучения на основе реальных данных. Для обучения AI-консультант можно использовать библиотеку реальных голосовых записей переговоров и бесед.
-
Уход от скриптов. Наличие заскриптованных разговоров сразу выдают, что на той стороне диалога находится не очень компетентный сотрудник и максимум, что он сможет сделать вне скрипта общения - это перевести на другого чуть более компетентного сотрудника.
-
Обучение как сотрудника компании. Необходимо использовать привычные технологии RAG (Retrieval Argumented Generation) для добавления необходимой документации и инструкций для создания базы знаний нейросетевого помощника.
Технический стек или что ставить под капот?
В данном случае можно «не открывать Америку» и использовать подходящую open-source модель, которую потом можно дообучить как на публичных датасетах для понимания основных языков общения (например русского, казахского и английского) и приватных для понимания предметной области. Для этого подходят как облачные ИИ решения от Яндекс или Google, так и развертывание своих GPU-кластеров. Секретным ингредиентом здесь будет сам датасет и его грамотная разметка.
То же касаемого пайплайна работы: можно начать с одной общей LLM модели, но в скорее всего вы быстро поймете, что это сродни забиванию гвоздей микроскопом.
Поэтому лучше провести эксперименты с конвейером обработки, где специализированные модели с разным количеством параметров (от тысяч до сотен тысяч), обученностью и настроек работают с клиентом в зависимости от его запросов.
Для чего это нужно? Например клиент в чате случайно ответил на вопрос о помощи бота и больше ничего не спросил, а кому-то необходимо подобрать ассортимент продукции в зависимости от настроения. И использовать для всех случаев мощную модель с десятками, а то и сотнями миллиардов параметров и утилизирующую даже в инференсе не одну GPU класса H100 было бы непозволительной тратой ресурсов и денег.
Выбор между арендованными GPU-ресурсами или собственным сервером зависит также от самого процесса обучения, частоты его повторения, и необходимых мощностей для инференса, исходя из количества клиентов и объема запросов, а также от размера самой модели и размера RAG.
По части стэка также все стандартно и опенсорсно: JavaScript, NodeJS, Python, PostgreSQL и общеизвестные библиотеки типа LangChain или Transformers.
В части программной интеграции выбор тоже за вами: можно использовать достаточно популярное решение Jivo-бот, API которого позволяет анализировать поведение человека на странице, его запросы. Все это потом можно передать AI-консультанту и тот сможет превентивно удерживать внимание человека, поддерживать беседу и пытаться ответить на вопросы пользователя.
Никто также не запрещает добавить поверх штатных возможностей свои скрипты и библиотеки для сбора дополнительных данных. Это могут быть данные куда человек заходит, на какую страницу, его предыдущие посещения и т.п, что полезно при работе с продуктовыми страницами.
В интернет-магазине вы можете добавить информацию о корзине клиента и товарах в ней, данных о истории клиента от запросов до покупок. А так как Jivo прекрасно интегрируется с CRM, можно через систему идентификации клиента самого интернет-магазина и куки получить для AI-консультанта все данные, которая CRM готова ему предоставить по клиенту от сегментов поиска товаров до его любимых покупок.
А если еще дополнить все информацией по акциям, аналогам товаров и другим данным, привычным для интернет-магазина, то AI-консультант превратиться в отличного работника который сможет провести продажу от начала до конца без привлечения живого человека.
С любым открытым API грамотный программист может создать интеграцию за 2-3 дня при наличии любого интерфейса для чата и доступа к выгрузке товаров в стандартном XML формате, который клиент с вероятностью 99% использует уже для работы с маркетплейсами или эта возможность зашита в e-comm CRM.
Если вы привыкли уводить клиента по воронке с сайта тот же WhatsApp, то никто не мешает вам это сделать. Как и продолжить общение по почте. Вопрос в ваших сценариях и воркфлоу продаж.
С точки зрения тюнинга модели, рекомендация следующая: тюнинг модели нужно делать своими силами, но этап разметки должен делаться силами той компании, где будет работать AI-консультант.
Выглядит это следующим образом: представители компании от лица клиента-покупателя общаются с AI-консультантом, и оценивают диалог по метрике «хорошо - плохо», или по трем параметрам (хорошо, плохо, не очень), что помогает точно донастроить модели.
А может проще позвонить?
AI-консультант многими руководителями воспринимается как замена живого общения. В том числе и голосового. В эпоху телефонного спама и мошенничества это не лучший вариант (в том числе и из-за ужесточения законодательства по этому вопросу). По факту голос в общении - это всего лишь дополнительный этап к тексту.
Но владельцам бизнеса рекомендуем не увлекаться голосовыми роботами, так если клиент вам позвонил, то с клиентом должен говорить человек. У покупателя не должно быть сомнений, что разговаривает он с живым человеком, так как эмпатия немаловажная часть процесса продаж и нейросети пока еще плохо справляются с имитацией эмоций. В тексте же имитировать как эмоции, так и маскироваться под человека пока еще гораздо проще. А ваша задача провести покупателя от заинтересованности до корзины и ее оплаты полностью с помощью AI-консультанта.
Тем более не стоит доверять боту холодные звонки. Можно сразу ставить крест на репутации.
Что должен уметь AI-консультант?
Если вы дочитали до этих строк, то уже поняли, что AI-консультант может работать как менеджер или консультант по продажам для вашего интернет-магазина или сайта. Основная задача AI-консультанта - отслеживать поведение человека на страницах вашего сайта или интернет-магазина и ненавязчивое (хотя для некоторых само существование консультанта это навязывание услуг) предложение помощи по выбору товара и пошаговое подведение покупателя к покупке.
AI-консультант должен уметь обучаться на реальных сделках конкретного интернет-магазина с положительным и, что немаловажно, отрицательным итогами. И он начинает общаться на «сленге» как менеджеров, так и потенциальных клиентов. Он также должен понимать этап продаж конкретной компании для конкретного клиента - мы обучаем AI-ассистента различать насколько этап «холодный» или «теплый».
Следующим умением AI-консультанта стоит отметить возможность грамотно отвечать на возражения покупателя. Например на то, что цена товара высокая он ответит: «Да вы что, это же премиальный бренд!» Или: «Имейте в виду, что тут зато гарантия 5 лет!». И он должен не отставать от покупателя, пока не уговорит его.
Также AI-консультант должен уметь переквалифицироваться из продаж в техподдержку. К примеру вы продаете встроенную бытовую технику и вашим сотрудникам необходимо иметь глубокие технические познания по характеристикам товара и понимаю, можно ли его встроить в существующую кухню клиента.
У вас есть подробные инструкции к товарам в PDF-файлах. В них расписан сам процесс установки и настройки встраиваемой техники и ее нюансы: сколько сантиметров отступить, какое напряжение надо подать и т.п. Этой информации нет в карточке товара и вашим консультантам нужно предварительно прочитывать все эти инструкции и запомнить большой объем информации или (что происходит гораздо чаще) обращаться за помощью к специалистам по установке. Нейросеть же сможет обработать их за короткое время, составить базу знаний и давать консультации, опираясь на нее.
АИ-консультант также должен уметь работать с контекстом. Да, с ним работают все модели и последние версии даже небольшие, на 8-9 миллиардов параметров, имеют контекст в районе 128 000 токенов на ввод, но для АИ-консультанта важно, чтобы в контексте присутствовала не только сама текущая беседа, но и весь номенклатурный классификатор клиент, в будущем и весь жизненный цикл покупателя из CRM. Немаловажна и возможность простой и быстрой интеграции AI-консультанта в популярные CRM и чаты.
Для хорошего консультанта мало знать свой ассортимент и общие характеристики - ему нужно понимать чаяния клиента, изучать отзывы на товары и его особенности.
AI-консультант должен работать непосредственно на страницах сайта или интернет-магазина и «следит» за действиями пользователя, понимая в какой момент нужно обратиться к покупателю и имея уже необходимые данные, чтобы ему помочь. То есть он не должен переспрашивать «чем вам помочь?», а понимать что покупатель например находится на странице смартфонов или в поиске определенной модели предлагать или помочь с выбором смартфона или попросить задать вопросы о конкретной модели.
Если расписать по пунктам KPI, то AI-консультант должен:
-
Обеспечивает максимально точную персонализацию на клиента, повышая эффективность продаж и экономию человеческих ресурсов;
-
Выполнять продажи и допродажи без вашего участия;
-
Уметь работать в автономном режиме без контроля человеком.
Все это позволяет повысить количество и маржинальность продаж, снизить число брошенных корзин и поддерживайте высокий уровень обслуживания.
Стоит ли изобретать велосипед ?
Вот мы и добрались до наиболее животрепещущего вопроса: зачем? Подобный продукт не создается в вакууме и у него есть конкуренты на рынке. Условно их можно разделить на российские (Yandex GPT, GigaChat от Сбер) и зарубежные (тот же Claude или модели от OpenAI). Они хорошие, можно сказать отличные, но их знания общего плана и в каких-то областях или поверхностные или наоборот слишком подробные. И для работы в определенных областях их загоняют в рамки узкой предметной области.
В массе существующие решения в основном построены на API сторонних компаний: OpenAI или Яндекс, которые ограничили входным промтом и, максимум, прикрутили RAG из загруженных документов клиента. И все. Ни о каком целевом обучении модели под определенную роль, ни о fine-tuning под базу знаний. ни тем более создании обновляемого RAG, который легко изменить или дополнить речь тут не идет.
Такие продукты работают, мягко говоря, плохо. Они могут адекватно отвечать в начале, но в итоге вы можете прийти к обсуждению рецептов кабачков, которые можно приготовить в данной посудомойке. Ди и вопрос галлюцинаций при увеличении контекста и качества получаемых дата-сетов для RAG из неструктурированных данных никуда не девается. Так как дообучение (а тем более обучение с нуля) - это время, деньги на аренду машинного времени видеокарт или вообще GPU серверов и затраты на R&D. Стоит остерегаться решений, где клиенту обещают запуск чат-бота за неделю.
Специализированный бот для интернет-магазина будет умеет хорошо продавать и консультировать именно по товарам. Он не будет знать, кто сейчас президент России, он не полезет в политику, и не станет вам отвечать, почему тушканчика так называют. Зато он сможет выпутаться даже из каверзных вопросов по вашему ассортименту.
Приведем пример из жизни. На одной из выставок был случай, когда посетитель попросил подобрать ему посудомоечную машину с хитрой опцией парогенерации. АИ-консультант ответил, что таких машин в магазине нет и в принципе такие посудомоечные машины это локальная история и это уже профессиональная, а не встраиваемая техника. Бот на основе нейросетей также может распознать и игнорировать скам по типу слов без вопросов, белиберды символов и т.п.
То есть если говорить словами аналогий: общий GPT других компаний - это Lada Vesta, а грамотно обученная нейросеть - Aurus. Оба довезут вас из точки А в точку B, у обоих под капотом будет примерно все одинаково, но первая - это массовый продукт широкого применения, а второй штучный и под заказ.
При этом основная проблема большинства таких решений в том, что они может и сделали виртуального продавца, который интересует клиентов, он им нравится, но он дорогой.
В процессе исследований и работы над архитектурой и моделями есть возможность удешевить все в 100 раз. Да ваш АИ-консультант станет глупее, но будет стоить в 100, а то и в 1000 раз дешевле. Нужно стремиться снижать цену условного «токена» и оптимизировать архитектуру и подключая модели разной сложности на разных этапах общения.
Опубликовано 26.12.2024
