Вышла LLM модель уровня ChatGPT 3.5 Turbo, которую можно запустить почти на любом устройстве!!!

Новая LLM модель уровня ChatGPT 3.5 Turbo: Gemma-2-2B

Недавно была выпущена новая модель языка большого масштаба (LLM) под названием Gemma-2-2B, которая относится к линейке Gemma-2 и является самой компактной моделью из всех представленных (другие модели имеют 9B и 27B параметров).

• Высокая производительность: Согласно данным ChatBot Arena, Gemma-2-2B превосходит ChatGPT 3.5 Turbo. Google утверждает, что эта модель имеет повышенную производительность при генерации ответов по сравнению с ее "старшими" версиями.

• Низкие системные требования: Для запуска квантованной версии модели требуется всего от 3 ГБ оперативной памяти, что делает возможным её использование на слабых ПК и мобильных устройствах.

Gemma-2-2B открывает новые возможности для разработчиков и пользователей, обеспечивая доступ к мощной LLM модели на широкой гамме устройств, от настольных компьютеров до мобильных телефонов. Это существенно расширяет возможности использования AI в различных приложениях, от чат-ботов до сложных систем анализа данных.

Пользователи получают доступ к мощной и эффективной модели, способной работать на устройствах с ограниченными ресурсами. Это позволяет внедрять передовые AI решения в более широкий спектр технологий и устройств, делая искусственный интеллект доступным для большего числа пользователей.

Для получения детальной информации - https://huggingface.co/blog/gemma-july-update