April 10, 2023

Альтернативные интерфейсы для ChatGPT

Вас тоже бесит, что на chat.openai.com нужно каждый день логинитсья заново?

В последнее время я всегда держу ChatGPT открытой в отдельной закрепленной вкладке, чтобы при надобности быстро зайти и что-то спросить. Даже купил премиум за $20/мес, чтобы пользоваться силой ChatGPT-4.

Но есть несколько неудобств: (1) Меня регулярно выкидывает с сайта и просит перелогиниться
(2) Нет мобильного приложения, а в мобильном браузере пользоватсья ChatGPT не очень удобно.
(3) Если нет доступа к плагинам (я, например, стою в очереди), то у ChatGPT нет доступа к интернету и она не имеет актуальной информации.

Чтобы избавиться от этих неудобств, я стал искать сторонний интерфейс для ChatGPT. Их оказалось не так мало, ведь на базе API каждый может написать свою обертку. Но мне хотелось уже готового решения.

Кастати, если вы думаете написать свою личную обертку над ChatGPT, то советую начинать с фреймворка LangChain, в котором много полезностей уже рейлизовано (например, разныи типы памяти для ведеия диалога и интеграции со внешними системами, такимим как Google, python, Wolfram и пр.).

Но тут я пишу об уже готовых решениях. Итак, вот что я нашел при беглом осмотре вариантов:

1. HeyGPT.chat - web GUI для ChatGPT, которая позволяет модельке гуглить и доставать актуальную информацию. Привязываешь свой OpenAI API ключ и API ключ от Google и вперед. Думаю, что под капотом у них крутится решение на базе LangChain.

Посравнивал с чатботом в Bing, результаты мне не понравились. HeyGPT.chat часто выдает левые сслыки особено, когда ответа на мой вопрос в гугле не находит. Один раз он даже выдал мне ссылку на порносайт, хотя вопрос был про мой телеграм канал. В то время как Bing говорит, что у него ответа нет и не вставляет никакие сылки (ну, хоть честно).

Тут видно, что на мой вопрос "who is the owner?" HeyGPT.chat выдает какие-то левые ссылки, где прост овсречались слова "who is the owner".

Еще из минусов, автора HeyGPT выбрали неоптимальную модель имплементации пмяти. Они, видимо, пихают в контекст всю предыдубщу переписку, поэтому максимальная длина промпта в 4096 токенов достигается буквально за пару минут и призодится открывть новый чат. Это неудобно.

2. ChatWithGPT: Опен-соурсный апп на React, который использует OpenAI API ключ и просто перенаправляет запросы. Никакого дополнительно функционала нет. Благо код открытый, и можно развернуть аппку у себя локально в докере. Из плюсов - это то, что пользоваться ChatGPT3.5 через API дешевле, чем через подписку в $20/мес, если нужен безперебойный доступ.

3. Интеграция ChatGPT в iOS. Кулибин из твиттера собрал простенький шорткат для iOS, который по сути заменяет Siri, причем уделывая ее как ребенка (разве что гуглить пока ChatGPT без плагинов не умеет). Вы голосом надиктовываете промпт, все автоматически переводится в текст, отправлется в ChatGPT, затем с помощью OpenAI Whisper текстовый ответ переводится в голос и воспроизводится вам. Не удивлюсь, если чел использовал ChatGPT, чтобы написать этот шорткат.

4. Мой любимый: CLI-интерфейс для ChatGPT, написанный на Rust. Можно вести интерактивные диалоги в терминали, либо же просто посылать единый запрос командой heygpt мой запрос и получать единственный ответ. Работает шустро и выводит символы в процессе генерации. Полностьб открытый код: https://github.com/fuyufjh/heygpt.

5. Есть похожие CLI обертки, написанные на python (chatgpt-wrapper) и на node.js (link).


Заключение

  • В итоге, хороший web gui, который был бы удобнее чем родной chat.openai.com, я не нашёл. Разве что написать своего тг бота с LangChain.
  • Простого и изящного приложения под iOS/Android я тоже не нашел (куча непонятных приложения в сторе, которые непонятно что делают с вашими запросами не в счет).
  • Зато нашел классный CLI tool на Rust (https://github.com/fuyufjh/heygpt).

Если вам понравилась эта мини-статья, то можете отблагодарить меня, подписавшись на мой телеграм канал "эйай ньюз" https://t.me/ai_newz, где я каждый день пишу об интересных штуках в сфере AI и глубокого обучения.