Языковые модели. База

Что такое большая языковая модель

Я здесь иногда буду писать «ИИ», но иметь в виду именно большие языковые модели, потому что они есть объект моего исследовательского интереса.

Большая языковая модель – это сложно устроенная программа, которая учится на огромном количестве текстов и затем очень хорошо предсказывает, какое слово (или кусочек слова) с наибольшей вероятностью будет следующим.

Это как автозамена на стероидах. На очень ядрёных стероидах, употреблённых в большом объёме. Такое сравнение может сбить с толку, поэтому уточним, о чём речь:

у модели нет своего мнения, целей и намерений;
она не обладает пониманием физического мира;
она не может думать, только имитировать мыслительный процесс.

При этом она может писать хороший текст.

Это не «магия», но и не «просто механический попугай» – это сложный инструмент. Я люблю сравнивать его с хирургическим скальпелем: сам операцию не проведёт, но это очень острая штука. Держать надо аккуратно.

Как мы говорим про ИИ — и почему это влияет на нас

Мы привыкли говорить что-то вроде «ИИ решил», «модель обучается», «модель думает» и так далее. Это само по себе нормально и естественно для нашего мозга, однако может привести к формированию искажённого понимания ИИ. Чем это чревато?

1. Сдвиг ответственности

Когда мы говорим: «ИИ решил,» – теряется важный контекст:

кто-то создал этот ИИ;
кто-то настроил его под свои задачи;
кто-то решил, какие ошибки приемлемы, а какие нет.

Полезно время от времени об этом вспоминать и мысленно подставлять уточнения:

не «ИИ не дал кредит», а «банк внедрил систему, которая отказала в кредите»;
не «ИИ заблокировал аккаунт», а «компания настроила свой ИИ так, что мой аккаунт попал под блокировку».

Это возвращает ответственность туда, где она должна быть – к компаниям и людям. ИИ не имеет собственной воли, поэтому и ответственности нести не может.

2. Привязанность и замена живого общения

Не страшно, если вы время от времени жалуетесь на жизнь чат-боту. Но нужно регулярно задавать себе ряд проверочных вопросов:

С кем я общаюсь чаще на личные темы: с ботом или с окружающими людьми?
Куда я скорее напишу сообщение в трудный момент: в чат-бот или в чат с близким человеком?
Я использую ИИ, чтобы изложить свои мысли, структурировать и посмотреть на них со стороны или ищу у него поддержки и понимания?

Если вы склонны обращаться за поддержкой к ИИ и стали реже разговаривать на личные темы с людьми, это повод стать внимательнее к себе и, возможно, обратиться за помощью к специалисту (человеку!).

Важно держать в голове:

у языковой модели нет эмоций и нет личного отношения к вам;
она может выражать поддержку, но не оказывать её на самом деле;
всё, что вы ей рассказываете, остаётся у компании, и вы не контролируете, что с этой информацией будет дальше.

Где вы встречаетесь с ИИ вообще (здесь – не только с языковыми моделями)

Даже если вы никогда не открывали ChatGPT, ИИ уже рядом с вами:

в почте письма сортируются на «спам» и «не спам»;
в поиске ИИ предлагает формулировки запросов;
в машинном переводчике;
в навигаторе при построении маршрута;
в социальных сетях с использованием ИИ формируется лента рекомендаций;
в чат-ботах технической поддержки, которые не могут решить вашу проблему и зовут человека.

То есть, вы так или иначе держите ИИ в руках почти каждый день, просто использующие его компании могут не сообщать об этом напрямую.

Вот ещё полезные вопросы, которые стоит иногда себе задавать:

Кому выгодно, что я вижу именно вот эту информацию, а не другую? Кто стоит за этим сервисом и какие у них интересы? А какие интересы у меня?

Я не предлагаю уйти в лес, выкопать себе там норку и высекать огонь из камня. Все эти вопросы – способ потихоньку возвращать себе контроль за своими данными и принятием решений.

Где языковые модели полезны и работают хорошо

Есть задачи, где современные языковые модели особенно хороши и достаточно безопасны:

Обобщение текста;
Выделение того, что вам интересно, в большом объёме информации;
Объяснение сложных вещей простым языком;
Генерация идей: варианты заголовков, форматов, подходов;
Критика ваших идей (но нужно прямо написать запрос на критику, иначе они склонны во всём с вами соглашаться);
Борьба со страхом чистого листа: могут для вас создать «скелет», который вы потом наполните смыслом;
Правки стиля и грамматики в уже написанном вами тексте.

Главное помните, что вы тут за главного, и итог должен вам понравиться.

Где языковые модели стоит использовать с осторожностью и в ограниченном объёме

Есть области, где ИИ может быть полезен для прояснения мыслей, но нельзя опираться только на его ответы.
Медицина

Можно использовать ИИ, чтобы:

лучше сформулировать, что с вами происходит;
подготовиться к разговору с врачом.

Нельзя: подбирать себе лекарства и схемы лечения по совету чат-бота.

Юридические вопросы

Можно: попросить объяснить термины простым языком.

Нельзя: принимать решения, опираясь только на ответ модели.

Финансы

Можно: попросить объяснить финансовый инструмент.

Нельзя: вкладывать деньги, опираясь на советы ИИ.

Проверка фактов

Можно: спросить про интересное событие, чтобы наметить круг вопросов для самостоятельного исследования.

Нельзя: считать ответ окончательной истиной – важно проверить его по надёжным источникам.

Психологическая поддержка

Можно: выписать мысли и чувства в диалоге с ИИ, чтобы самому лучше понять, что с вами.

Нельзя: заменять этим обращение за помощью к близкому человеку или специалисту.

Кто отвечает за ошибки ИИ

Языковые модели делают множество ошибок, вот лишь пара примеров:

могут уверенным тоном описывать то, чего никогда не было;
могут проявлять предвзятость к отдельным группам людей;
иногда странно рассуждают о физическом мире (у них нет тела и реального опыта).

Это не проблема одной конкретной модели, а особенности того, как в принципе устроено обучение таких систем.

Сейчас полностью избавиться от этих ограничений нельзя – можно только с разной степенью аккуратности минимизировать риски.

И вот здесь важно: за это отвечаете не вы.

Отвечают компании:

они собирают данные для обучения;
они настраивают и проверяют системы безопасности;
они решают, что считать «приемлемой ошибкой»;
они выбирают, какие предупреждения показывать пользователям (и показывать ли их вообще).

Честно говоря, с ответственностью и прозрачностью у многих компаний пока действительно всё не очень. Надпись «[Название продукта] может ошибаться, проверяйте информацию» часто означает по сути:

Мы снимаем с себя ответственность, дальше вы сами.

Как и какими острыми палками тыкать компании, чтобы они начали соблюдать права пользователей – отдельный разговор. Но кое-что вы можете контролировать и сейчас:

что именно вы им отправляете;
насколько вы готовы доверять суждениям ИИ;
будете ли вы задавать уточняющие вопросы и искать второе мнение.

Ключевой принцип безопасности

Если свести все рекомендации в одно предложение, получится следующее:

Не сообщайте ИИ того, что не хотели бы увидеть в открытом доступе – ни про себя, ни про других.

Это значит:

не передавать номера паспортов, карт, телефонов, логины-пароли и подобное;
не отправлять точные адреса, маршруты, расписания своих перемещений;
не выкладывать рабочую конфиденциальную информацию: внутренние отчёты, клиентские данные, коммерческие тайны;
не раскрывать чужие личные истории без согласия.

Любые отправленные модели данные:

хранятся на серверах компаний;
могут утечь в сеть;
могут быть использованы при обучении новых моделей.

Краткое заключение

Если вы только-только начинаете разбираться с ИИ, всего вышесказанного вам пока хватит.

Если захочется копнуть глубже, для вас будет ещё два поста: один про внутреннее устройство и обучение моделей простым языком, другой – совсем хардкорный со списком статей (и инструкцией по работе с ними, конечно же).