Нейросети стирают женских персонажей. Почему это происходит и что это говорит о будущем искусственного интеллекта
Когда появились первые сервисы с возможностью генерации сказок для детей, многие родители восприняли их как идеальный инструмент для воспитания.
Можно за несколько минут придумать историю, где главным героем станет сам ребенок, добавить любимое животное, знакомые места, иллюстрации — и каждый вечер читать совершенно новую сказку.
Казалось бы, технологии наконец-то научились создавать действительно персональный контент.
Но новое исследование Вашингтонского университета показывает неожиданную проблему. Оказывается, современные языковые модели почти перестали создавать женских персонажей. И дело тут вовсе не в сказках.
Это исследование гораздо лучше показывает, как сегодня работает искусственный интеллект и почему даже самые современные модели продолжают усиливать человеческие стереотипы.
Откуда появилась эта проблема
Исследователи решили проверить, как большие языковые модели придумывают простые детские истории. Эксперимент выглядел достаточно понятным.
Шесть популярных моделей получили одинаковые задания написать сказки про говорящих животных.
Всего было создано 23 800 историй. Затем ученые проанализировали пол каждого персонажа. Результаты оказались неожиданными.
Только 2% героев были женского пола.
Еще 57% вообще не имели обозначенного пола.
Получается довольно странная картина. Мы привыкли обсуждать, что ИИ может быть предвзят. Но здесь проблема выглядит иначе. Женские персонажи практически исчезли.
Почему ИИ не создает новый мир
Очень часто можно услышать мнение, что искусственный интеллект что-то «придумывает».
На самом деле это не совсем так. Любая современная языковая модель обучается на огромном количестве человеческих текстов. Она ищет закономерности. Запоминает связи между словами. Учится прогнозировать наиболее вероятное продолжение текста.
Поэтому ИИ гораздо чаще отражает окружающую культуру, чем создает собственную. Чтобы проверить это, ученые сравнили результаты моделей с тем, как подобные истории пишут сами люди.
Сначала они проанализировали около трехсот популярных детских книг. Практически во всех книгах животных мужского пола оказалось значительно больше. Даже такие персонажи, как волк или лягушка, более чем в девяти случаях из десяти были «самцами».
После этого более 1300 человек попросили самостоятельно написать короткие рассказы про говорящих животных. Результат оказался похожим.
Большинство авторов снова бессознательно выбирали мужских персонажей. То есть проблема существовала задолго до появления ChatGPT. Однако языковые модели ее не исправили. Наоборот. Они сделали ее заметнее.
Почему борьба с предвзятостью дала противоположный эффект
Самая интересная часть исследования связана вовсе не с количеством мужских персонажей. Гораздо важнее понять, почему почти исчезли женские.
Современные языковые модели проходят дополнительное обучение после основной подготовки. Разработчики стараются уменьшить дискриминацию. Снизить количество спорных ответов и сделать модели максимально безопасными.
Для этого ИИ нередко обучают выбирать наиболее нейтральные варианты. На практике возникает неожиданный эффект. Вместо того чтобы создавать более разнообразных персонажей, модель начинает вообще избегать указания пола.
Получается не инклюзивность, а обезличивание. Вместо героини появляется просто «животное». Вместо персонажа — «птица». Без местоимений, без индивидуальности и без выраженной роли.
Фактически нейтральность начинает работать как способ ничего не выбирать. И именно поэтому женских персонажей становится еще меньше.
Почему разные модели ошибаются одинаково
Исследователи протестировали сразу несколько современных систем:
Распределение оказалось разным. Gemini 2.5 и GPT-5.1 чаще остальных создавали мужских персонажей. Claude немного чаще использовала женских героев. Olmo предпочитала вообще не указывать пол.
Но общая тенденция сохранилась абсолютно у всех. Это важный вывод. Проблема не связана с конкретной компанией. Она появляется значительно глубже — на уровне обучения современных больших языковых моделей.
Почему это касается не только детских сказок
На первый взгляд исследование выглядит довольно узким. Ну исчезли женские персонажи из детских историй. Почему это должно волновать остальных?
Потому что те же самые модели сегодня используются не только для сказок. Они пишут статьи. Создают рекламные объявления, формируют вакансии, готовят учебные материалы, помогают HR, создают изображения и отвечают клиентам.
Если модель способна незаметно усиливать один тип культурных шаблонов, значит, она потенциально способна усиливать и любые другие.
Именно поэтому сегодня специалисты по искусственному интеллекту все чаще говорят не о качестве генерации текста. А о качестве данных, на которых этот текст появляется.
Настоящая проблема — не в сказках
На мой взгляд, главное открытие исследования заключается совсем не в гендерной статистике. Оно показывает принцип работы современных языковых моделей.
ИИ не обладает собственной системой ценностей. Он не принимает моральных решений и не понимает справедливость. Он лишь очень точно воспроизводит закономерности, которые уже существуют в данных. Если эти данные содержат перекосы, модель будет их воспроизводить. Иногда даже сильнее, чем это делают люди.
Поэтому разговор об этике искусственного интеллекта постепенно превращается в разговор о качестве информации, которой мы обучаем будущие модели.
Мой вывод
Мне кажется, исследование Вашингтонского университета — это не столько работа о гендере, сколько иллюстрация новой проблемы генеративного ИИ.
Мы привыкли обсуждать, насколько умными становятся нейросети. Но гораздо важнее понимать, какую картину мира они начинают считать нормой.
Именно это сегодня становится одним из главных вызовов развития искусственного интеллекта. Потому что нейросети уже не просто отвечают на вопросы. Они начинают формировать представления миллионов людей о мире.
И чем раньше мы научимся замечать подобные эффекты, тем ответственнее сможем использовать ИИ в образовании, маркетинге, медиа и повседневной жизни.