Работа с LLM: где НЕ стоит их использовать

Недавно мне друг отправил картинку, которая наглядно демонстрирует проблему, которую хочу обсудить этой статьёй:

Нейросети ворвались в нашу жизнь, игнорировать их существование глупо и бессмысленно. Это потрясающий инструмент, находящийся в распоряжении любого человека.

Но по принципу Питера Паркера: "С большой силой приходит большая ответственность". Чем чаще я наблюдаю за применением нейросетей, тем больше замечаю типичных ошибок. Это как с интернетом — необходим достаточный уровень цифровой грамотности, чтобы безопасно пользоваться.

В этой статье расскажу, для чего и как стоить использовать ЛЛМ.

Как работают ЛЛМ?

Понимание, кто такие ЛЛМ и как они работают, необходимо для того, чтобы корректно пользоваться инструментом. Я не эксперт в теме, поэтому буду краток.

ЛЛМ основаны на автодополнении текста. У них есть "контекст" из всех предыдущих слов, на основе которых они подбирают наиболее подходящий результат. Соответственно, "интеллект" этих моделей напрямую зависит от того, насколько подходящие слова она подбирает, а "скорость" — то, насколько быстро слова генерируются.

Удивительно, насколько эффективно эта схема работает для создания разборчивой речи. Всё благодаря данным, на которых модели обучены — это различные переписки в интернете, книги и так далее. Объём данных и его содержание напрямую влияет на итоговый результат. Вот крутой видос, где парень обучил модель на сообщениях своей девушки (из-за чего ЛЛМ стала говорить соответствующим образом):

А так называемый "Thinking..." в ChatGPT и "Deep Think" в DeepSeek дают ЛЛМ возможность , чтобы увеличить свой "контекст" (синий кит даёт возможность посмотреть на размышления модели, что очень занимательно):

Важность контекста

Я регулярно обращаюсь к понятию "контекст". Это список всех слов, которые были использованы до того, которое в моменте генерирует ИИ. Контекст состоит из всего текста, на котором обучена модель, а также из текущей переписки с пользователем. ChatGPT также даёт модели "память" — в контекст добавляются предыдущие переписки с пользователем.

ЛЛМ очень любят контекст, особенно последние сообщения. Очень часто они могут цитировать целые фразы из оригинала, а так же повторять поставленную задачу слово в слово:

И тут в красивую рамочку запишу самую главную мысль этой статьи:

Всё, что имеют в распоряжении модели в начале переписки, это их встроенные базы слов. Из них модели знают какую-то информацию о нашем мире. Но они не имеют в распоряжении какой- либо точной информации. Если попросить ЛЛМ рассказать неизвестный им факт, они просто выведут список слов, которые лучше всего подходят как ответ.

Аналогия: нейросети-генераторы картинок могут нарисовать корову на мотоцикле. Но это не значит, что такие существуют.

Что не стоит делать нейросетями

Основываясь на предыдущей части, можно чётко заметить базовые ошибки, которые стоит избегать при работе с ЛЛМ:

1. Нельзя спрашивать факты. Если не давать модели проверенный источник, то она может бредить и выдавать ложную информацию. Это происходит не всегда (разработчики стараются бороться с этим), но если информация специфичная или объективные факты необходимы, то можно:
1. Перепроверять информацию в проверенных источниках
2. Включить режим "Поиска" — в контекст добавятся самые подходящие статьи из интернета, которые ИИ сможет ещё и указать как источники. На такой схеме основаны сервисы "Нейро" от Яндекса и "Обзор от ИИ" в Гугле.
2. Не стоит просить написать итоговый текст. Скорее всего, при работе с ИИ вы будете пользоваться популярными вариантами от крупных корпораций. Из-за этого у каждого запроса один и тот же исходный контекст, соответственно похожие ответы. Текст, сгенерированный нейросетью, несложно отличить от написанного человеком: есть несколько основных принципов, но это выходит за рамки этой статьи. В наше время такой скилл — как суперспособность. И если человек (преподаватель, начальник и т.п.) обладает таким скилом, то может возникнуть множество проблем.
3. Не стоит использовать ИИ для работы с пользователями. Этим последнее время балуются корпорации, чтобы выглядеть модно. Самое базовое — просто засунуть в контекст модели какую-то информацию, это ещё не страшно. Но если ИИ подключён к каким-то сервисам продукта и ввод пользователя не фильтруется — взлом очень прост.

Случаи, когда ИИ максимально полезен

1. Краткие пересказы и работа с существующими данными. ЛЛМ с лёгкостью могут пересказать данный им текст в любой форме. Можно с уверенностью скопировать эту статью в ЛЛМ и приписать "перескажи одним параграфом и как будто я пятилетний ребёнок".
2. Помощь с точными науками. За счёт своих баз данных нейросети неплохо справляются с математикой и программированием. Эти науки достаточно объективные, чтобы ЛЛМ не врала. Как минимум помочь с домашними заданиями ИИ могут спокойно, хотя стоит ко всему относиться со скептицизмом и перепроверять. С другой стороны, ИИ круто помогает с синтаксисом языков программирования и библиотек.

Хорошие примеры использования ИИ:

Принципы создания хорошего промпта

Если знать всё предыдущее, то можно спокойно пользоваться ИИ и не бояться получить плохой ответ. Но чтобы сделать результаты максимально качественными, стоит немного знать про промпты.

Промпт — исходное сообщение для LLM или любой другой нейросети, на который она пытается ответить. Хороший промпт состоит из нескольких частей (не все обязательны в одном сообщении):

1. Цель — что нужно сделать нейросети: ответить на вопрос, объяснить тему, проанализировать файл
2. Контекст — информация, полезная для ЛЛМ. Тут можно ответить на вопрос "почему нужно выполнить поставленную цель"
3. Формат — может быть таблица, список, топ 10. Можно попросить прикрепить ссылки на источники или цитаты
4. Тон — это то самое "объясни, как будто я малолетка"
5. Ограничения — можно уточнить, что не должно оказаться в ответе
6. Примеры — это мега важно. Можно значительно улучшить результат, если написать пример результата/один пункт из списка
7. Итерация — промпт можно изменять, чтобы постепенно улучшать результат ЛЛМ.

Итоги

Надеюсь, что вам пригодится полученная информация. И если вы знаете человека, который ещё не знает перечисленные выше принципы общения с ЛЛМ — скорее отправляйте ему эту статью. Я считаю крайне необходимым подобная цифровая грамотность.

Если есть что-либо, что я забыл добавить — прошу в комментарии, буду оперативно дополнять и редактировать.