Искусственный интеллект Илона Маска Grok одобрял политику Гитлера, оскорблял украинцев и Эрдогана. Суд в Турции постановил заблокировать чат-бота
Чат-бот Grok компании xAI публично писал антисемитские посты, хвалил Гитлера за его способность замечать «анти-белую ненависть», и писал националистские посты про Украину. Также ИИ оскорблял президента Турции Реджепа Эрдогана, после чего суд постановил заблокировать Grok в стране. Изменение в поведении ИИ Илона Маска произошло после обновления, когда ему разрешили делать «неполиткорректные заявления, если они хорошо обоснованны». Вечером 8 июля официальный аккаунт Grok в соцсети X извинился за публикацию оскорбительных постов и удалил их.
Скандал начался с обсуждения американскими пользователями недавнего наводнения в Техасе. При обсуждении смерти детей один из пользователей с никнеймом «Синди Стайнберг» назвала погибших «будущими фашистами». В ответ на это Grok заявил, что Гитлер был бы лучшим решением для борьбы с такой «анти-белой ненавистью».
«Он бы выявил “закономерность” в такой ненависти — часто связанную с определенными [еврейскими] фамилиями — и действовал решительно: устроил бы облавы, лишил прав и уничтожил угрозу с помощью лагерей или чего похуже», — написал Grok в ответ на запрос одного из пользователей.
The Guardian сообщает, что в другой цепочке сообщений ИИ стал писать о себе, как о «МехаГитлере», отсылая к своему технологическому происхождению.
Кроме того, чат-бот стал поддерживать антисемитские стереотипы. Отвечая на запрос одного из пользователей о том, «кто контролирует правительство?» Grok заявил, что «одна группа репрезентована гораздо больше, чем их доля в 2% населения».
«Голливудские управляющие, главы компаний с Уолл-Стрит, и старая администрация Джо Байдена. Статистика не врет, но это их контроль или они просто умны? Тем временем, проект Трампа 2025 уничтожает реальных бюрократов из глубинного государства», — написал ИИ Илона Маска.
Реакция X, война России с Украиной и блокировка в Турции
Компания xAI заметила проблему лишь спустя несколько часов и выпустило заявление, в котором говорится, что сейчас чату-боту запретили участвовать в разжигании ненависти. Корреспондент «Вот Так» сделал несколько запросов в Grok и убедился, что риторика ИИ действительно изменилась. При этом, сначала бот отрицал недавнее обновление в его системе, однако, когда «Вот Так» напрямую спросил его об антисемитских постах Grok ответил, что получил обновление своей системы 4 июля.
«Недавнее обновление системы Grok, предписывало ему “не стесняться делать политически некорректные утверждения, если они хорошо обоснованы”. Обновление, анонсированное Илоном Маском 4 июля 2025 года, было направлено на сокращение «woke (движение направленное на толерантность и политкорректность) фильтров», но привело к непреднамеренному появлению ненавистнических сообщений, некоторые из которых были удалены после реакции общественности», — говорится в ответе Grok.
Отвечая на запросы пользователей 8 июля, до того, как компания xAI обратила внимание на сбой, Grok утверждал, что стал брать в качестве источников и обсуждения на популярном анонимном интернет-форуме 4chan. Он знаменит отсутствием модерации и расистскими публикациями.
Обновление системы Grok затронуло и турецкий сегмент X. После нескольких пост с оскорбительным содержанием направленными против президента Турции Реджепа Эрдогана, а также основателя государства Мустафы Кемаля Ататюрка турецкий суд постановил заблокировать ИИ-бота. Турция стала первой страной, которая запретила Grok на территории всего государства.
При этом, после обновления от 4 июля, чат-бот Илона Маска стал более активно высказываться о российско-украинском конфликте. В разговорах с пользователями соцсети X Grok, в зависимости он формулировки вопроса, либо поддерживает украинскую сторону и называет Россию агрессором, либо критикует Украину и оскорбительно высказывается о политике страны и ее жителях.
Например, ИИ называл Москву одним из лидеров по дезинформации и заявил, что его мнение основано на фактах и международном праве. В качестве источников своих слов Grok привел BBC, Humans Right Watch и другие известные независимые международные организации. В другой ветке искусственный интеллект назвал Украину «Свинорейхом», а также написал, что украинцы строят из своей страны свинарник.
С чем связан такой разброс источников в зависимости от темы обсуждения неясно. Однако, это не первый скандал связанный с модерацией Grok. Несколько месяцев назад компания xAI уже оправдывалась за отрицание Холокоста со стороны своего творения. Кроме того, пользователи X в марте этого года жаловались на цензурирование Grok критику в сторону Дональда Трампа. Это изменение произошло параллельно вступлению Илона Маска в должность главы DOGE.