Интеграция ChatGPT в Instagram и ТГ ботов
ChatGPT будет интегрирован с помощью платформы SendPulse.
SendPulse - это универсальная маркетинговая платформа, которая специализируется на разработке чат-ботов, web push уведомлений, создании лендингов, рассылке email, SMS и Viber сообщений, автоматизации продаж через систему CRM, и создании онлайн-курсов.
Для начала зарегистрируйтесь в Sendpulse
- Перейдите по этой ссылке: https://sendpulse.com/ и начните регистрацию.
- Обратите внимание, Sendpulse - не Российский сервис, поэтому он может быть недоступна в России. Если вы попытаетесь зарегистрироваться без VPN, вам может отобразиться следующее сообщение. Поэтому обязательно включите VPN перед регистрацией.
2. Когда вы включите VPN и перейдете к регистрации, появится окно. Исходя из моего опыта, наиболее удобно регистрироваться с помощью аккаунта Google. Просто создайте аккаунт Google, пропустив этап ввода номера телефона и не привязывая его к дополнительной электронной почте. Выполнив все эти шаги при включенном VPN, ваша страна не будет идентифицирована, и ваш аккаунт будет ассоциирован со страной, указанной в настройках вашего VPN.
3. На предыдущем шаге я выбрал "Войти через Google" и в новом окне выбираю почту, которую я создал.
4. На этапе этапе уже можно ввести свой настоящий номер телефона, если вы находитесь в России.
Подключение чат-бота к SendPulse
- Telegram: Зарегистрировать нового бота можно только с помощью официального телеграм бота "BotFather" https://t.me/BotFather - отправляем команду /newbot - придумываем название - придумываем ник с припиской "bot" - и копируем API
• Далее переходим на сайт SendPulse , в раздел "чат-боты"
Как подключить GPT к чат-боту SendPulse
Для интеграции GPT с вашим чат-ботом в SendPulse, переходим на сайт OpenAI, нажимаем на кнопку "Log in" (если вы зарегистрированы) или "Sign up" (для регистрации) в правом верхнем углу.
После входа, перейдите в меню слева, где выберите "API Keys", после чего нажмите на "Create new secret key" и скопируйте сгенерированный код. Обязательно сохраните этот апи ключ, т.к openAi не дает возможности повторно смотреть сгенерированные ключи.
P.S. Важно отметить, что API не будет работать, если вы не привяжете карту в своем аккаунте на OpenAI. Подробную информацию о том, как оплатить ChatGPT и Midjorney, можно найти в инструкции.
Теперь перейдите в вашу учетную запись в SendPulse, чтобы настроить интеграцию. Перейдите в раздел "Чат-боты" в верхней части меню, после чего справа выберите чат-бота, к которому вы хотите подключить GPT, и затем перейдите к "Настройкам бота" > "Интеграции" > "Подключить".
В открывшемся окне выберите "использовать отдельный токен для этого бота" и вставьте ранее скопированный ключ в поле "API Secret key".
Выберите модель
Выберите, какую модель ИИ использовать для создания ответов.
GPT-3.5-turbo - это мощная и самая оптимальная модель, которая была обучена на разговорных данных и специально оптимизирована для использования в чатах. Она способна создавать ответы, которые более приближены к человеческому стилю, по сравнению с другими моделями. Она также может настраивать свои ответы в соответствии с темой и предыдущими диалогами пользователя.
Эта модель может использоваться для генерации ответов в мессенджерах, действовать в роли виртуальных помощников, создавать системы вопросов и ответов. Она подходит для множества задач.
GPT-3.5-turbo-16k - Модель, по качеству ответов такая же, как и 3.5 turbo, но с увеличенным лимитом токенов. Это позволяет добавлять гораздо больше контекста, инструкций и требований для вашего бота, а также дает больше маневренности для ответов, т.к токены расходуются как на input (промт+запрос пользователя+память), так и на output (ответ бота)
*Старайтесь не занимать все доступные токены промтом, т.к:
1. Это ухудшит ответы, gpt может начать путаться в большом промте
2. Gpt не хватит токенов для качественного ответа и ответ получится оборванным либо не содержательным
3. Вы будете платить за этот большой промт при каждом запросе пользователя.
Зачастую большие промты больше вредят, чем приносят пользу. Подумайте как оптимизировать промт и сделать его содержательным меньшим количеством слов
Gpt-3.5-turbo-instruct - Модель созданная для
Это последняя и самая совершенная модель из семейства ChatGPT, которая была разработана для облегчения разговоров как в многоэтапных диалогах, так и в одноэтапных задачах без необходимости ведения диалога.
Пользовательская fine-tuned модель*
Вы имеете возможность выполнить доработку (fine-tuning) одной из основных моделей с использованием инструментов, предоставляемых OpenAI, для создания собственной модели.
Добавьте инструкцию для бота
Модели GPT способны решать разнообразные задачи, начиная от сложного анализа текста и заканчивая генерацией ответов на широкий спектр тем. Чтобы ограничить сферу ответов вашего бота, задать его тональность, придать ему индивидуальность, соответствующую определенному персонажу или личности, а также добавить информацию о вашей компании, необходимо предоставить инструкции для бота.
При создании указаний для модели, учитывайте следующие рекомендации:
1. Предоставьте максимальное количество контекста и условий для ответов в различных сценариях. Перечислите все предварительные условия взаимодействия с ботом: укажите, какие пользователи и на каком этапе решения своих задач будут обращаться, какие подробности необходимо учесть в ответах, а какие темы избегать.
2. Используйте примеры, чтобы ясно выразить свои ожидания. Если вам нужно, чтобы модель, например, упорядочила список или классифицировала абзац по настроению, предоставьте примеры запросов и желаемого формата ответа. Если вам необходимо определенное поведение бота в ответ на конкретные вопросы, приведите примеры вопросов и ожидаемых ответов.
3. Обеспечьте высокую точность и качественные вводные данные в промте. Тщательно проверьте примеры на орфографические ошибки. Избегайте цифр и предоставляйте числа словами, так как AI может их буквально интерпретировать.
4. Сделайте модель персонализированной. Опишите характеристики и личные особенности бота, чтобы сделать его уникальным. Это поможет модели лучше вживаться в образ определенного человека или персонажа.
5. Тестируйте и корректируйте результаты. После настройки указаний регулярно тестируйте модель, анализируйте диалоги с пользователями и, при необходимости, вносите коррективы в инструкции бота. Продолжайте тренировать модель, пока не достигнете желаемых результатов.
Заполните раздел "Инструкция для бота" своими указаниями, придерживаясь предложенных рекомендаций.
Добавьте количество токенов и выберите температуру
Токен - это часть слова, используемая для обработки естественного языка. Для английского текста, примерно 1 токен составляет 4 символа или 0,75 слова.
При каждом запросе учитывается количество токенов в следующих местах:
1. Из поля "Инструкция для бота" (prompt/system. Рассчитывается по тарифу “input”).
2. Из последних сообщений в переписке с ботом (память/memory_window. Рассчитывается по тарифу “input”.)
3. Из текущего запроса пользователя к боту. (question/message. Рассчитывается по тарифу на “input”)
4. Из текущего ответа, который бот предоставит пользователю. (Рассчитывается по тарифу на “output”)
Стоимость токенов зависит от модели, актуальную стоимость на input, output каждой модели можно посмотреть на сайте openAI - https://openai.com/pricing
"Максимальное количество токенов в ответе” - значение кол-ва токенов, больше которого бот не сможет потратить на 1 ответ
Также укажите значение температуры от 0 до 2.
Температура влияет на абстрактность ответов: более высокие значения делают ответы более случайными (например, 1,3), а более низкие значения делают их более точными (например, 0,2).
После настройки, нажмите "Сохранить" и переходите к тестированию бота.
Чтобы проверить, сколько токенов осталось, зайдите в ваш аккаунт OpenAI и перейдите на вкладку "Usage". https://platform.openai.com/usage
Особенности использования
При включении интеграции с OpenAI в чат-боте отключается функция "Стандартный ответ". Поэтому важно предоставить пользователю информацию о том, что бот способен на разные виды ответов. Эту информацию можно добавить, например, в приветственную или триггерную цепочку, которую вы настроите в меню бота.
Когда вы используете OpenAI в чат-ботах, стоит помнить, что искусственный интеллект работает с внутренней библиотекой информации и предоставляет ответы непосредственно в ходе диалога с клиентом.
Важно учесть, что у AI нет долгой памяти, и он учитывает только три последних сообщения от пользователя. Рекомендуется регулярно проверять диалоги с клиентами в чатах, чтобы корректировать указания для бота и обеспечивать более точные ответы.