Почему тексты искусственного интеллекта начинают нравиться людям больше человеческих
Последние несколько лет все обсуждают один вопрос: сможет ли искусственный интеллект заменить авторов. Но, как выяснилось мы уже задаем его неправильно. В новых реалиях, куда правильнее будет:
Почему люди начинают предпочитать тексты, написанные нейросетями, даже когда уверены, что их написал человек?
Недавнее исследование Университета Вилланова показало довольно неожиданный результат. Для большинства участников эксперимента рассказы, созданные искусственным интеллектом, оказались интереснее человеческих. Более того, многие вообще перестали понимать, кто является автором текста.
На первый взгляд кажется, что это еще одна новость про ChatGPT. На самом деле речь идет о гораздо более серьезных изменениях.
Что проверяли исследователи
Авторы исследования провели несколько экспериментов, в которых приняли участие более двух тысяч человек. Участникам показывали короткие рассказы и просили оценить их по двум параметрам:
Иногда испытуемым честно говорили, кто написал рассказ. Иногда специально вводили их в заблуждение.
Получилась интересная ситуация.
Истории, написанные искусственным интеллектом, получили оценки выше человеческих примерно:
Но самым любопытным оказался другой результат. Если участники были уверены, что текст написал человек, они оценивали его еще выше. Даже если автором на самом деле была нейросеть.
Получается своеобразный психологический эффект. Люди хотят верить, что хорошие тексты создают люди. Но когда они оценивают сам текст, без предубеждений, им чаще нравится именно работа искусственного интеллекта.
Люди почти перестали отличать ИИ от человека
После этого исследователи решили проверить еще одну гипотезу. Можно ли вообще определить автора?
Для этого провели два дополнительных эксперимента. Результат оказался неожиданным. Правильно определить, кто написал текст, участники смогли лишь примерно в 40–52% случаев. По сути, это почти случайное угадывание.
Лучше остальных справились люди, которые регулярно работают с современными нейросетями. Они уже научились замечать характерные особенности генеративных моделей:
- слишком ровную структуру
- одинаковый ритм предложений
- повторяющиеся языковые конструкции
- характерные обороты речи
А вот люди с литературным образованием ошибались даже чаще остальных.
Это хороший пример того, насколько быстро меняется сама природа текста.
То, что еще год назад считалось явным признаком работы нейросети, сегодня постепенно исчезает.
Почему искусственный интеллект вообще выигрывает
Кажется логичным предположить, что нейросети стали талантливее людей. Но исследование говорит о другом. Большие языковые модели обучают не писать красиво. Их обучают нравиться людям. Практически каждая современная модель проходит дополнительное обучение с использованием человеческой обратной связи.
Разработчики показывают модели несколько вариантов ответа. Пользователи выбирают лучший. После миллионов подобных сравнений модель начинает понимать, какие формулировки люди оценивают выше.
В результате появляется текст, который:
Он редко удивляет. Почти никогда не перегружает читателя. Практически не требует усилий.
Человеческий текст устроен иначе. Автор может использовать сложную композицию, намеренно оставить недосказанность. Может заставить читателя остановиться и подумать. Именно поэтому хорошие книги далеко не всегда читаются легко.
Нейросети же почти всегда выбирают максимально понятный путь. И оказывается, что массовой аудитории такой стиль нравится больше.
История, которая хорошо показывает происходящее
Пока исследователи анализируют результаты экспериментов, Билл Джонс уже превратил новую реальность в источник дохода.
Недавно The New York Times рассказала историю семидесятилетнего пенсионера. После выхода на пенсию он решил попробовать ChatGPT. Первая книга была посвящена истории хакерства. Продажи оказались почти нулевыми. Но сам процесс настолько понравился автору, что он продолжил писать.
Сегодня на Amazon опубликовано уже около 445 его книг. Каждую неделю появляется еще десять новых. При этом речь не идет о художественной литературе. Он выпускает документальный нон-фикшн.
Темы самые разные: история блюза, бейсбол, атомная энергетика, кибербезопасность, американская инфраструктура.
Работает он довольно просто. Сначала собирает материалы. Потом просит ChatGPT помочь со структурой и первым черновиком. После этого самостоятельно переписывает и редактирует текст.
Сам Джонс признается, что большие объемы сразу генерировать нельзя — модель начинает ошибаться и выдумывать факты. Поэтому книгу он собирает небольшими частями.
После комиссии Amazon с каждой продажи остается около семи долларов. Общий доход уже составляет несколько тысяч долларов ежемесячно.
Эта история интересна не суммой заработка. Она показывает другое. Для большинства покупателей гораздо важнее получить полезную книгу, чем знать, каким инструментом пользовался автор при ее создании.
Что это меняет для бизнеса
Мне кажется, именно здесь начинается самое интересное. Еще недавно компании конкурировали между собой качеством текста. Сегодня конкурировать приходится с системой, которая миллиарды раз обучалась писать так, чтобы нравиться людям. И это меняет требования к контенту.
Просто хороший текст больше не является конкурентным преимуществом. Его теперь способен написать практически любой современный ИИ. Зато резко растет ценность вещей, которые пока невозможно автоматически сгенерировать:
Получается любопытный парадокс. Роль автора становится даже важнее. Но теперь автор ценен не потому, что умеет красиво складывать слова. А потому, что ему есть что сказать.
Изменился не автор. Изменился читатель
Мне кажется, исследование Университета Вилланова важно не тем, что искусственный интеллект оказался убедительным автором.
Но главным открытием стало то, что за последние несколько лет изменились ожидания аудитории. Сегодня большинство людей хотят получить информацию быстро. Без сложных конструкций. Без длинных вступлений. Без необходимости перечитывать абзац несколько раз. Именно под такие ожидания и обучаются современные языковые модели.
Поэтому вопрос "заменит ли ИИ человека?" постепенно перестает быть главным. Гораздо важнее понять другое. Если алгоритмы уже умеют писать так, как нравится большинству читателей, то какую ценность должен создавать человек?
На мой взгляд, ответ уже появляется. Не текст, а идеи. Не слова, а смысл. Не черновик, а опыт, который невозможно скачать из интернета.
Именно вокруг этого и будет строиться контент ближайших лет.