Llama
May 2

Нейросеть LLaMA 3 - Бесплатный доступ и описание возможностей

В апреле 2024 года была запущена нейросеть для работы с текстом - "LLaMA 3", ее главными отличиями от многих других является высокая скорость работы, приемлемое качество ответов и доступность.

Внимание! В @yes_ai_bot была произведена замена модели LLaMA 3 на более совершенный аналог - Gemma 2 9B, подробности написаны в этой статье: https://forum.yesai.su/topic/145-yes-ai-bot-perehodit-na-novuyu-model-dlya-raboty-s-tekstom-gemma-2-9b/

Бесплатный доступ к LLaMA 3

LLaMA (Large Language Model) — это языковая модель (аналог Chat GPT). GPT (с англ. Generative Pre-trained Transformer) - это архитектура генеративного искусственного интеллекта, позволяющая отвечать на запросы пользователей в текстовом формате, в том числе она имеет возможность вести осмысленный диалог с учетом контекста.

Важным отличием LLaMA 3 от Chat GPT является влияние параметра "температура" на результаты: в Chat GPT для решения большинства задач подойдет значение температуры в диапазоне от 0.2 до 0.4, а для Llama это значение лучше повысить до 0.6 - 0.8.

Подробнее про температуру мы рассказывали в этой статье: https://teletype.in/@yes_ai_bot/chto_takoe_temperatura_v_chatgpt (рекомендуем почитать).

В отличии от Chat GPT, модели нейросети LLaMA можно устанавливать на свой компьютер, если у вас имеется хорошая видеокарта, но в @yes_ai_bot Llama 3 доступна для использования абсолютно бесплатно *, без регистрации и без скрытых ограничений.
* — информация является актуальной на момент написания статьи (2 мая 2024 года). Более актуальные данные публикуются на канале @yes_ai_official в Телеграм.

Как запустить нейросеть LLaMA 3 бесплатно и без регистрации

  1. В мессенджере Телеграм запустите бота @yes_ai_bot
  2. В нижнем меню выберите пункт "GPT"
  3. Нажмите кнопку выбора моделей
  4. Активируйте "Llama 3 8B"

Примечание: нейросеть "ллама 3", как и Chat GPT, может работать в режиме диалога. Для его активации включите опцию "✅ Диалог" в нижнем меню бота Yes Ai.

Примечание: LLaMA 3 в боте Yes Ai может получить доступ к сети интернет с помощью функции "+WEB". Описание этой возможности находится в этой статье: https://teletype.in/@yes_ai_bot/chatgpt_s_dostupom_k_internetu

...обратите внимание, что после активации "+WEB", работа с нейросетью перестает быть бесплатной, так как доступ к сети интернет


Для широкой публики было открыто две версии "лламы": с 8 миллиардами параметров "8B" и с 70 миллиардами параметров "70B". Если коротко, то количество параметров в моделях влияет на правильность ответов, их насыщенность и на объем знаний нейросети.
В Yes Ai Bot мы открыли доступ к версии "8B", т.к. соотношение "скорость-качество" у нее является оптимальным.

Еще одним важным преимуществом "лламы" можно считать большое контекстное окно, позволяющее нейросети делать как минимум две вещи:

  • учитывать больший объем текста из вашей с ней переписки (контекст)
  • выдавать больший объем текста, например, для генерируемых статей

Теперь о недостатках:

  • бывают ошибки в тексте, особенно если для общения используется не английский язык (эту проблему можно устранить в один клик, но об этом чуть позже)
  • модель не так хорошо делает рерайт сложных статей (Chat GPT 4 справляется чуть лучше)
  • сложные промты, которые стабильно работали в Chat GPT 4 и 3.5, придется адаптировать для работы с Llama
  • если вы отправляете запрос лламе не на английском языке, то нейросеть часто пытается ответить на английском (это тоже легко исправить *)

А теперь поговорим об устранении мелких ошибок в тексте, которые LLaMA 3 иногда допускает. В @yes_ai_bot есть опция "+Объем", включив которую, вы добьетесь устранения 90% ошибок, при этом нейросеть будет отвечать на том же языке, на котором был написан ваш запрос (промт).

* - если хотите, чтобы ИИ всегда отвечал на нужном вам языке, то к тексту промта добавляйте что-то вроде этого "...свой ответ напиши на русском языке", но это будет работать только если вы отключите функцию "+Объем".
* - существует альтернативный способ заставить LLaMA отвечать ну нужном вам языке, при этом не будет ломаться конструкция программного кода и функции перевода на разные языки тоже будут работать. Сделать это можно установив роль, читайте описание в статье: https://teletype.in/@yes_ai_bot/roli_dlya_chat_gpt#gWIV

Как включить опцию "+ Объем":

  • в @yes_ai_bot выберите нейросеть "GPT" в нижнем меню
  • нажмите кнопку выбора моделей GPT
  • нажмите кнопку "+Объем", чтобы рядом с ней появился значок ✅

Особенности функции "+ Объем"

  • если вы пишете программы через GPT (Chat GPT / LLaMA и пр.), то названия переменных могут быть переведены на язык, на котором был задан вопрос
  • если вы используете GPT в качестве переводчика на разные языки, то функция "+Объем" вам не подойдет, т.к. перевод не будет корректно работать
  • ответы нейросети будут написаны на том же языке, на котором был задан вопрос

🎭 Вы можете писать и использовать в диалоге с LLaMA собственные роли, которые позволят получить максимальный эффект от нейросети.

О том, как работают роли, мы рассказали в этой статье: https://teletype.in/@yes_ai_bot/roli_dlya_chat_gpt


Наша команда пристально следит за развитием ИИ, поэтому мы будем оперативно открывать доступ к новым нейросетям в нашем боте, рекомендуем следить за новостями на канале @yes_ai_chat

Вступите в наш 👉 Форум о нейросетях!