ИИ меняет нашу речь
Вся лента в соцсетях забита раздражающе однообразными текстами, которые либо написаны ИИ, либо отредактированы ИИ.
Строго говоря, нет ничего плохого, если автор сам придумал идею, сгенерировал текст и проверил потом. Но в этих текстах подчас стёрто всё личное и человеческое, и это проблема большая, чем может показаться.
Об этом статья «The Shrinking Landscape of Linguistic Diversity in the Age of Large Language Models» («Сужающийся ландшафт лингвистического разнообразия в эпоху больших языковых моделей»), которую я предлагаю нам сегодня обсудить.
Но, возможно, тексты от языковых моделей так раздражают, потому что живая речь передаёт куда больше, чем просто идеи и знания. То, как мы говорим и пишем, выдаёт наш опыт, эмоциональное состояние, социальный статус и много чего ещё. Много чего такого, что мне самой хотелось бы знать о человеке, которого я читаю.
Авторы статьи провели три исследования:
- первое проверяет, связан ли рост популярности языковых моделей со стиранием индивидуальности письма (на материале художественных текстов, новостных статей и аннотаций к научным работам);
- второе оценивает, как стирание индивидуальности меняет встроенные в язык сигналы, которые раскрывают личность автора;
- третье анализирует связи между языковыми признаками и чертами личности авторов, а потом показывает, как именно редактура языковой моделью эти связи меняет.
Ниже график из первого исследования. Красная линия — использование ИИ для написания текстов, синяя — разнообразие языка. Использование ИИ растёт — разнообразие падает.
Авторы отдельно поэкспериментировали с текстами, которые были с нуля написаны людьми: отредактировали их языковыми моделями и посмотрели, меняются ли смысл и лингвистическое разнообразие. Получили: что смысл сохранился хорошо, а вот разнообразие заметно упало.
И не только: черты личности, которые опознаются по тексту (склонность к эмпатии, моральные установки, политические взгляды и так далее), тоже здорово истёрлись. После редактирования языковыми моделями все тексты стали выглядеть так, как будто их писал пожилой мужчина с невысокой эмпатией и либеральными политическими взглядами (хотя изначально их писали очень разные люди).
Ничего принципиально ужасного нет в текстах, написанных пожилыми либералами, однако же, как мне кажется, большинству читателей хотелось бы знать, кто на самом деле автор и каков он как личность.
Справедливости ради, маркеры личности в текстах стёрлись и заменились не полностью. Определяли это так: авторы исследования с помощью классификаторов сгруппировали человеческие тексты по разным чертам личности (склонен / не склонен к эмпатии; ценит верность в отношениях / склонен к изменам и так далее), потом отредактировали эти тексты языковыми моделями и запустили классификацию снова. Точность классификаторов упала, а результаты сместились в сторону определённого типа личности.
Есть люди, которые изучают происходящее в обществе, анализируя тексты из соцсетей — социолингвисты. Посты, написанные или отредактированные ИИ, здорово осложняют им работу.
Вот эта таблица из исследования кажется мне особенно интересной. Галочка (✓) означает наличие сильной корреляции, крестик (✗) – слабой.
Например, в текстах, написанных людьми, экстраверсия (EXT) коррелирует с использованием местоимений, а редактура языковой моделью эту корреляцию убирает. Она убирает или ослабляет многие другие корреляции — именно поэтому, как предполагают авторы статьи, и упала точность классификаторов.
Социолингвистам, которые опирались в своём анализе на давно выведенные корреляции, придётся быть аккуратнее с текстами, которые сгенерированы или отредактированы ИИ. Хорошая новость в том, что многие важные маркеры остались на месте. Не очень хорошая — в том, что многие маркеры после редактуры ИИ стёрлись.
Следующий разумный вопрос — могут ли сгенерированные или отредактированные языковыми моделями тексты повлиять на то, как мы говорим и пишем в обычной жизни? Авторы статьи, которую мы только что обсудили, считают, что да. Я тоже так думаю, особенно если речь идёт о говорении и письме на неродном языке. Но этот вопрос требует более тщательного и продуманного ответа, так что как-нибудь посвящу ему отдельный пост с обзором разных исследований.
P.S.: Этот текст я написала на английском языке, потом перевела на русский с использованием Opus 5 и отредактировала. Для сравнения, вот этот пост я писала с нуля по-русски. Вы видите разницу в стиле? Мне кажется, я вижу.
Оригинал сегодняшнего поста выложила здесь.