Команда AZN интегрировала чат-бота ChatGPT от OpenAI в решение Customer Intelligence Suite (далее CIS), которое предоставляет клиентам собирать и объединять в одном месте различные точки соприкосновения с бизнесом через отзывы, опросы и чаты поддержки.
ChatGPT – это инструмент обработки естественного языка, основанный на технологии искусственного интеллекта, предназначенный для предоставления информации и ответов на вопросы через диалоговый интерфейс.
На текущем этапе интеграции, AZN подключила ChatGPT в разделе отзывов CIS, где тот помогает операторам выдавать ответы на основе той информации, которой его обеспечили до обучения. Служба OpenAI используется AZN не напрямую, а через прослойку Microsoft Azure, которая даёт возможность настраивать чат-бота.
На данный момент чат работает только с английским текстом, потому что находится в разработке в реальном времени. В будущем новые языки не заставят себя ждать.
Как работает ChatGPT у нас?
Для корректной работы ChatGPT наша команда задаёт ему некое системное сообщение, чтобы он мог понять, кто он такой, что он может/не может делать, каким образом он должен это делать и как ему поступать в той или иной ситуации. Далее команда выдаёт ему примеры, которые взяты с реального процесса взаимодействия оператора с клиентом/пользователем, и редактирует их для получения более качественных данных, что поможет боту выдать подходящий результат.
Когда клиент присылает запрос, бот сразу предоставляет ответ, который мог бы быть использован оператором в контексте этого запроса. Результат ChatGPT появляется в кейсе с отзывом в CIS и клиент не сможет его увидеть, пока оператор не даст на это согласие. Для того, чтобы бот смог обучиться лучше, оператор может внести изменения в предложенный текст перед тем, как отправить ответ пользователю. В дальнейшем, после пробного периода, это поможет сократить количество обращений, которые необходимо обрабатывать операторам.
После редактирования в системе появляется информация о том, что оператор откликнулся на запрос клиента, базируясь на результатах ChatGPT. В дополнительных системных сообщениях можно будет увидеть, какие именно это были изменения: что и кем отредактировано.
Существует несколько путей интеграции и моделей ChatGPT: GPT-3.5-Turbo и GPT-4, которые отличаются только ценовой политикой. Эти модели можно легко адаптировать к конкретной задаче, включая создание содержимого, суммирование, семантический поиск и преобразование естественного языка в код.
Какую именно модель бота подключать зависит от контекста, который у Вас существует, и его объёма. Если организация большая, и в ней много отделений, дочерних проектов, услуг, сотрудников, отчетов и т.д., то чат-бот должен уметь выдавать всю эту информацию. Для этого существует способ дообучения через добавление источников данных: создание ресурса, на котором разместятся эти данные, и создание ресурсы для когнитивного поиска.
Когнитивный поиск использует подход по семантической модели поиска, цена которого будет выше поиска по ключевым словам. Но он подходит для крупных решений и контекстов, которые можно создать.
На самом деле модели можно обучить с нуля на основе собранных высококачественных данных, но это будет дороже, нежели использования уже обученных моделей. Мы пользуемся именно обученными моделями, которые знают, как взаимодействовать с пользователями, и вводим их в контекст нашими указаниями.
Интеграция чат-бота ChatGPT помогает операторам, а они, в свою очередь, способствуют нам в совершенствовании модели с помощью редактирования ответов. Взаимное сотрудничество помогает нам проанализировать изменённые ответы, создать статистику и понять, как лучше дообучить модель, чтобы она выдавала результаты ещё лучше и работала эффективнее.