Нейросеть LLaMA 3 - Бесплатный доступ и описание возможностей
В апреле 2024 года была запущена нейросеть для работы с текстом - "LLaMA 3", ее главными отличиями от многих других является высокая скорость работы, приемлемое качество ответов и доступность.
Внимание! В @yes_ai_bot была произведена замена модели LLaMA 3 на более совершенный аналог - Gemma 2 9B, подробности написаны в этой статье: https://forum.yesai.su/topic/145-yes-ai-bot-perehodit-na-novuyu-model-dlya-raboty-s-tekstom-gemma-2-9b/
LLaMA (Large Language Model) — это языковая модель (аналог Chat GPT). GPT (с англ. Generative Pre-trained Transformer) - это архитектура генеративного искусственного интеллекта, позволяющая отвечать на запросы пользователей в текстовом формате, в том числе она имеет возможность вести осмысленный диалог с учетом контекста.
Важным отличием LLaMA 3 от Chat GPT является влияние параметра "температура" на результаты: в Chat GPT для решения большинства задач подойдет значение температуры в диапазоне от 0.2 до 0.4, а для Llama это значение лучше повысить до 0.6 - 0.8.
Подробнее про температуру мы рассказывали в этой статье: https://teletype.in/@yes_ai_bot/chto_takoe_temperatura_v_chatgpt (рекомендуем почитать).
В отличии от Chat GPT, модели нейросети LLaMA можно устанавливать на свой компьютер, если у вас имеется хорошая видеокарта, но в @yes_ai_bot Llama 3 доступна для использования абсолютно бесплатно *, без регистрации и без скрытых ограничений.
* — информация является актуальной на момент написания статьи (2 мая 2024 года). Более актуальные данные публикуются на канале @yes_ai_official в Телеграм.
Как запустить нейросеть LLaMA 3 бесплатно и без регистрации
- В мессенджере Телеграм запустите бота @yes_ai_bot
- В нижнем меню выберите пункт "GPT"
- Нажмите кнопку выбора моделей
- Активируйте "Llama 3 8B"
Примечание: нейросеть "ллама 3", как и Chat GPT, может работать в режиме диалога. Для его активации включите опцию "✅ Диалог" в нижнем меню бота Yes Ai.
Примечание: LLaMA 3 в боте Yes Ai может получить доступ к сети интернет с помощью функции "+WEB". Описание этой возможности находится в этой статье: https://teletype.in/@yes_ai_bot/chatgpt_s_dostupom_k_internetu
...обратите внимание, что после активации "+WEB", работа с нейросетью перестает быть бесплатной, так как доступ к сети интернет
Для широкой публики было открыто две версии "лламы": с 8 миллиардами параметров "8B" и с 70 миллиардами параметров "70B". Если коротко, то количество параметров в моделях влияет на правильность ответов, их насыщенность и на объем знаний нейросети.
В Yes Ai Bot мы открыли доступ к версии "8B", т.к. соотношение "скорость-качество" у нее является оптимальным.
Еще одним важным преимуществом "лламы" можно считать большое контекстное окно, позволяющее нейросети делать как минимум две вещи:
- учитывать больший объем текста из вашей с ней переписки (контекст)
- выдавать больший объем текста, например, для генерируемых статей
- бывают ошибки в тексте, особенно если для общения используется не английский язык (эту проблему можно устранить в один клик, но об этом чуть позже)
- модель не так хорошо делает рерайт сложных статей (Chat GPT 4 справляется чуть лучше)
- сложные промты, которые стабильно работали в Chat GPT 4 и 3.5, придется адаптировать для работы с Llama
- если вы отправляете запрос лламе не на английском языке, то нейросеть часто пытается ответить на английском (это тоже легко исправить *)
А теперь поговорим об устранении мелких ошибок в тексте, которые LLaMA 3 иногда допускает. В @yes_ai_bot есть опция "+Объем", включив которую, вы добьетесь устранения 90% ошибок, при этом нейросеть будет отвечать на том же языке, на котором был написан ваш запрос (промт).
* - если хотите, чтобы ИИ всегда отвечал на нужном вам языке, то к тексту промта добавляйте что-то вроде этого "...свой ответ напиши на русском языке
", но это будет работать только если вы отключите функцию "+Объем".
* - существует альтернативный способ заставить LLaMA отвечать ну нужном вам языке, при этом не будет ломаться конструкция программного кода и функции перевода на разные языки тоже будут работать. Сделать это можно установив роль, читайте описание в статье: https://teletype.in/@yes_ai_bot/roli_dlya_chat_gpt#gWIV
- в @yes_ai_bot выберите нейросеть "GPT" в нижнем меню
- нажмите кнопку выбора моделей GPT
- нажмите кнопку "+Объем", чтобы рядом с ней появился значок ✅
- если вы пишете программы через GPT (Chat GPT / LLaMA и пр.), то названия переменных могут быть переведены на язык, на котором был задан вопрос
- если вы используете GPT в качестве переводчика на разные языки, то функция "+Объем" вам не подойдет, т.к. перевод не будет корректно работать
- ответы нейросети будут написаны на том же языке, на котором был задан вопрос
🎭 Вы можете писать и использовать в диалоге с LLaMA собственные роли, которые позволят получить максимальный эффект от нейросети.
О том, как работают роли, мы рассказали в этой статье: https://teletype.in/@yes_ai_bot/roli_dlya_chat_gpt
Наша команда пристально следит за развитием ИИ, поэтому мы будем оперативно открывать доступ к новым нейросетям в нашем боте, рекомендуем следить за новостями на канале @yes_ai_chat
Вступите в наш 👉 Форум о нейросетях!