Чтобы избавиться от этих неудобств, я стал искать сторонний интерфейс для ChatGPT. Их оказалось не так мало, ведь на базе API каждый может написать свою обертку. Но мне хотелось уже готового решения.

Кастати, если вы думаете написать свою личную обертку над ChatGPT, то советую начинать с фреймворка LangChain, в котором много полезностей уже рейлизовано (например, разныи типы памяти для ведеия диалога и интеграции со внешними системами, такимим как Google, python, Wolfram и пр.).

Но тут я пишу об уже готовых решениях. Итак, вот что я нашел при беглом осмотре вариантов:

1. HeyGPT.chat - web GUI для ChatGPT, которая позволяет модельке гуглить и доставать актуальную информацию. Привязываешь свой OpenAI API ключ и API ключ от Google и вперед. Думаю, что под капотом у них крутится решение на базе LangChain.

Посравнивал с чатботом в Bing, результаты мне не понравились. HeyGPT.chat часто выдает левые сслыки особено, когда ответа на мой вопрос в гугле не находит. Один раз он даже выдал мне ссылку на порносайт, хотя вопрос был про мой телеграм канал. В то время как Bing говорит, что у него ответа нет и не вставляет никакие сылки (ну, хоть честно).

Еще из минусов, автора HeyGPT выбрали неоптимальную модель имплементации пмяти. Они, видимо, пихают в контекст всю предыдубщу переписку, поэтому максимальная длина промпта в 4096 токенов достигается буквально за пару минут и призодится открывть новый чат. Это неудобно.

2. ChatWithGPT: Опен-соурсный апп на React, который использует OpenAI API ключ и просто перенаправляет запросы. Никакого дополнительно функционала нет. Благо код открытый, и можно развернуть аппку у себя локально в докере. Из плюсов - это то, что пользоваться ChatGPT3.5 через API дешевле, чем через подписку в $20/мес, если нужен безперебойный доступ.

3. Интеграция ChatGPT в iOS. Кулибин из твиттера собрал простенький шорткат для iOS, который по сути заменяет Siri, причем уделывая ее как ребенка (разве что гуглить пока ChatGPT без плагинов не умеет). Вы голосом надиктовываете промпт, все автоматически переводится в текст, отправлется в ChatGPT, затем с помощью OpenAI Whisper текстовый ответ переводится в голос и воспроизводится вам. Не удивлюсь, если чел использовал ChatGPT, чтобы написать этот шорткат.

4. Мой любимый: CLI-интерфейс для ChatGPT, написанный на Rust. Можно вести интерактивные диалоги в терминали, либо же просто посылать единый запрос командой heygpt мой запрос и получать единственный ответ. Работает шустро и выводит символы в процессе генерации. Полностьб открытый код: https://github.com/fuyufjh/heygpt.

5. Есть похожие CLI обертки, написанные на python (chatgpt-wrapper) и на node.js (link).

Заключение

• В итоге, хороший web gui, который был бы удобнее чем родной chat.openai.com, я не нашёл. Разве что написать своего тг бота с LangChain.
• Простого и изящного приложения под iOS/Android я тоже не нашел (куча непонятных приложения в сторе, которые непонятно что делают с вашими запросами не в счет).
• Зато нашел классный CLI tool на Rust (https://github.com/fuyufjh/heygpt).

Если вам понравилась эта мини-статья, то можете отблагодарить меня, подписавшись на мой телеграм канал "эйай ньюз" https://t.me/ai_newz, где я каждый день пишу об интересных штуках в сфере AI и глубокого обучения.