Интеграция ChatGPT в Instagram и ТГ ботов
Интеграция ChatGPT будет происходить через сервис Sendpulse
SendPulse – это многоканальная маркетинговая платформа, специализирующаяся на создании чат-ботов, web push уведомлений, лендингов, email, SMS и Viber рассылок, автоматизации продаж через CRM систему и разработке онлайн-курсов
Первый шаг - Регистрация в Sendpulse
1. https://sendpulse.com/ - переходим по ссылке и приступаем к регистрации
«Sendpulse не российская компания поэтому она заблокирована в РФ»
- если вы зайдете и попытаетесь регистрироваться без VPN, то вам выдаст след. сообщение, поэтому обязательно включаем VPN
2. Когда вы включите VPN и нажмете "Регистрация" вылезет окно. По опыту могу сказать, что проще всего проходить регистрацию через Google. То есть вы создаете аккаунт Google, на этапе ввода телефона просто пропускаете и не прикрепляете к телефону и не прикрепляете аккаунт к доп. почте, делая все это с вкл. VPN и тогда вашу страну не идентифицирует, а аккаунт присоединится к стране на которой ваш VPN
3. То есть на предыдущем этапе я выбрал "Войти через Google" и в новом окне выбираю почту, которую создала без привязки к номеру, почте и стране по VPN
4. На данном этапе регистрации я уже могу ввести свой настоящий телефон будучи в РФ
Подключение чат-бота к SendPulse
- Telegram: https://t.me/BotFather - отправляем команду /newbot - задаем Название - Никнейм - и забираем API
Как подключить GPT-3 к чат-боту SendPulse
Чтобы подключить GPT-3 к своему чат-боту в SendPulse, перейдите на сайт OpenAI, кликните на кнопку «Get started» посередине экрана или «Sign up» в правом углу и заполните форму для создания аккаунта. (Статья по регистрации в OPENAI тут)
После завершения регистрации перейдите в свой аккаунт. Для этого нажмите на кнопку «Personal» справа вверху и выберите «Manage account».
На открывшейся странице в меню справа кликните «API Keys», нажмите «Create new secret key» и скопируйте сгенерированный код.
P.S. Api не будет работать, если не привязать карточку в кабинете OpenAi
Теперь перейдите в свой кабинет SendPulse, чтобы создать интеграцию. Нажмите на раздел «Чат-боты» в верхней строке меню, справа выберите чат-бота, к которому хотите подключить GPT-3 и далее кликните «Настройки бота» > «Интеграции» > «Подключить».
В открывшемся окне в поле «API Secret key» вставьте ранее скопированный ключ
Выберите модель
Выберите, какую модель AI использовать для генерации ответов.
GPT4 на данный момент работает долго и не корректно, пока что лучше ее не выбирать
Самая точная и дорогая модель, но более медленная, так как работает с большим объемом данных. Может выполнять задачи всех других моделей, но требует меньше указаний в «Инструкция для бота».
Чаще используется для задач, где нужно более глубоко анализировать и понимать контекст и генерировать более сложный текст или код. Также используется для решения логических задач и объяснения причин.
Сложные задачи, анализ причин и следствий, написание выводов, объяснение и генерация кода
Может анализировать текст, отвечать на прямые вопросы и предоставлять ключевые слова.
Чаще всего используют для Q&A и в чат-ботах. К примеру, в поле «Инструкция для бота» вы можете ввести свои вопросы и ответы, которые бот будет выдавать.
Перевод текста, комплексная классификация, тональность текста, написание выводов
Хорошо улавливает очевидные закономерности в тексте, а затем использует их в качестве эталона для создания текста.
Может ранжировать информацию и присваивать категории. Для творческих приложений может понимать структуру в достаточной степени, чтобы создавать простые сюжеты и заголовки.
Умеренная классификация, классификация семантического поиска
Самая быстрая и дешевая модель. Используется чаще в случаях, когда от ответов нужно больше скорости выдачи и объема информации, чем ее точности.
Парсинг текста, простая классификация, коррекция адреса, извлечение ключевых слов
Мoщная модель GPT-3.5-turbo, обученная на разговорных данных и оптимизированная для чатов. Способна генерировать человекоподобные ответы на запросы, более естественные по сравнению с другими моделями. Может персонализировать ответы на запросы с учетом темы и предыдущих диалогов с пользователем.
Генерация ответов для мессенджеров, использование в качестве виртуальных помощников, внедрение систем вопросов и ответов. Создание интерфейса для программ с «живым» языком общения. Репетиторство по различным предметам. Моделирование персонажей для видеоигр и многое другое.
Последняя и совершенная модель семейства ChatGPT, разработанная для облегчения многоэтапных разговоров. Модель также полезна для одноэтапных задач без диалога. Доступна только для пользователей, получивших доступ к ней с OpenAI.
Генерация текста и электронных писем, кода, перевод, моделирование персонажей для видеоигр, ответы на вопросы о наборе документов, работа с интерфейсом, репетиторство по разным предметам.
Пользовательская fine-tuned модель*
Вы можете обучить одну из базовых моделей на своих данных (fine-tuning) с помощью инструментов, предоставляемых OpenAI, чтобы создать собственную модель.
Добавьте инструкцию для бота
Модели GPT могут выполнять различные задачи — от сложного анализа текста до генерации ответа на неограниченный список тем. Чтобы ограничить область ответов бота, придать тональность разговора, персонифицировать вашего бота под определенного персонажа или человека, а также добавить информацию о своей компании, вам нужно добавить указания для бота.
При создании подсказки учитывайте следующие рекомендации:
- Добавьте максимальное количество контекста и условий для ответа в каждом сценарии. Перечислите все предварительные условия взаимодействия с ботом: укажите, какие пользователи и на каком этапе решения своих задач будут обращаться, какие подробности необходимо учесть в ответах, а какие темы избегать.
Давайте модели задание сгенерировать несколько результатов, чтобы иметь возможность сравнить и указать ей наиболее подходящий. - Дайте понять, чего вы хотите, с помощью примеров. К примеру, если вам нужно, чтобы модель ранжировала список элементов в алфавитном порядке или классифицировала абзац по настроению, перечислите примеры запросов и ожидаемый формат результата или какого эффекта хотите добиться. Если вам нужно, чтобы бот на вопросы отвечал определенным образом — приведите пример вопроса и ответа.
- Предоставляйте качественные и максимально точные данные. Проверьте свои примеры — модель обычно достаточно умна, чтобы опознать основные орфографические ошибки, но она также может предположить, что это сделано намеренно, и это может повлиять на ответ. Если вам нужно, чтобы модель отвечала на определенном языке — укажите этот язык прямо. Так же рекомендуется использовать слова вместо цифр. Помните, что AI понимает все указания буквально.
- Персонифицируйте модель. Чтобы модель могла войти в образ определенного человека или персонажа, опишите, чем он занимается, какими качествами обладает, в каком тоне или с каким лексиконом будет общаться, а также другие аспекты жизни виртуального помощника.
- Тестируйте полученный результат и обновляйте инструкцию. После настройки подсказок обязательно протестируйте полученный результат, просматривайте диалоги с пользователями и при необходимости корректируйте указания бота, добавляя или убирая детали. Тренируйте модель, пока не добьетесь желаемых результатов.
В поле «Инструкция для бота» добавьте указания в свободной форме следуя рекомендациям.
Добавьте количество токенов и выберите температуру
Токен — часть слова, которая используется для обработки естественного языка. Для английского текста 1 токен это примерно 4 символа или 0,75 слова.
При каждом запросе при подсчете токенов учитываются количество слов в следующих местах:
- из поля «Инструкция для бота»;
- из последних сообщений в переписке с ботом;
- из текущего запроса, который пользователь введет боту;
- из текущего ответа, который бот выдаст пользователю.
При первой регистрации, OpenAI дает $18 долларов на 3 месяца. Из этой суммы будет сниматься плата за использование токенов. Тарифы за токены различаются, зависимо от используемой модели. К примеру, использование модели Davinchi в обычной среде стоит $0.1200 за тысячу токенов, а использование модели Ada в тестовой среде — $0.0004.
В поле «Максимальное количество токенов в ответе» укажите число. Для модели Davinci вы можете указать до 2048 токенов, для всех остальных — до 1024.
Укажите показатель температуры от 0 до 2.
Температура – это параметр, влияющий на абстрактность ответов. Например, если задавать один и тот же вопрос, то исходные данные будут разные в соответствии с выбранной температурой — абстрактные или более точные. Более высокие значения ближе к 2, например,1,3, сделают ответы более случайными. Низшие значения ближе к 0, например, 0.2, сделают их более исчерпывающими, но одинаковыми по смыслу.
Нажмите «Сохранить» и можете переходить к тестированию бота.
Чтобы посмотреть, сколько токенов у вас осталось, перейдите в ваш аккаунт в OpenAI во вкладку «Usage».
Чтобы просмотреть историю использования токенов, прокрутите страницу ниже до секции «Daily usage breakdown (UTC)». Вы можете посмотреть всю историю или отобразить результаты за определенную дату или сотрудника.
Особенности использования
При подключении интеграции с OpenAI в чат-боте отключается цепочка «Стандартный ответ». Поэтому вам нужно дополнительно позаботиться о том, чтобы пользователь знал, что бот может ему ответить. К примеру, добавьте информацию о правилах общения с ботом в приветственной или триггерной цепочке, которую добавите в меню.
При использовании OpenAI в чат-ботах обратите внимание, что AI использует внутреннюю библиотеку информации — он обрабатывает запрос клиента и выдает результат прямо в диалоге с клиентом.
У AI нет долгой памяти: при обработке запроса учитываются только три последние сообщения от пользователя. Рекомендуем просматривать диалоги с клиентами в чатах, чтобы корректировать указания для бота.
AI не интегрируется с дополнительными приложениями и не обрабатывает данные клиента в аудитории бота. Для этих функций добавьте меню или создайте команды для запуска цепочек, где добавите блоки «Запрос API», «User input» и «Действие».