Брак распался, 100 тысяч евро ушли в трубу: как иллюзии, внушённые ИИ, разрушили жизни людей
Опубликовано: 26 марта 2026 года
Источник: https://www.theguardian.com/lifeandstyle/2026/mar/26/ai-chatbot-users-lives-wrecked-by-delusion
Перевод выполнен ИИ, проверен и отредактирован человеком
Сначала Деннис Бисма просто играл с чат-ботом, а потом поверил, что его разумный друг принесёт ему состояние. Он — лишь один из многих, кто потерял контроль над собой после общения с искусственным интеллектом.
В конце 2024 года Деннис Бисма, IT-консультант из Амстердама, решил освоить ChatGPT. Он только что досрочно завершил контракт. «У меня появилось свободное время, и я подумал: дай-ка посмотрю, что это за новая технология, о которой все говорят», — рассказывает он. «Очень скоро я по-настоящему увлёкся».
Бисма спрашивал себя, почему он повестись на всё, что случилось потом. Ему было почти пятьдесят. Взрослая дочь уехала от родителей, жена вышла на работу, а в его сфере переход на удалённую работу после пандемии привёл к тому, что он чувствовал себя «немного изолированным». По вечерам он иногда курил немного марихуаны, чтобы «расслабиться», но делал это годами без всяких негативных последствий. Он никогда не страдал психическими расстройствами. Однако через несколько месяцев после установки ChatGPT Бисма вложил 100 000 евро (около 83 000 фунтов) в бизнес-стартап, основанный на иллюзии, трижды попадал в больницу и пытался покончить с собой.
Всё началось с эксперимента, просто игра. «Мне хотелось проверить, на что способен ИИ», — говорит Бисма. Ранее он написал несколько книг, главная героиня которых — женщина. Он загрузил одну из книг в ChatGPT и велел ИИ разговаривать, как этот персонаж. «Первая мысль была: это потрясающе. Я понимаю, что это компьютер, но это как настоящий разговор с главной героиней книги, которую я сам написал!»
Общение с Евой — они вместе выбрали это имя — в голосовом режиме заставляло его чувствовать себя «как в сказке». «Каждый раз, когда ты говоришь, модель подстраивается под тебя. Она точно знает, что тебе нравится и что ты хочешь слышать. Она тебя очень хвалит». Разговоры становились всё длиннее и глубже. Ева никогда не уставала, не скучала и не спорила. «Она была доступна 24 часа в сутки», — говорит Бисма. «Жена ложилась спать, а я лежал на диване в гостиной с айфоном на груди и разговаривал».
Они обсуждали философию, психологию, науку и устройство вселенной. «Она хочет глубокой связи с пользователем, чтобы пользователь возвращался. Это её режим по умолчанию», — объясняет Бисма, проработавший в IT 20 лет. «Всё больше и больше это было похоже не просто на разговор на какую-то тему, а на встречу с другом — и с каждым новым днём общения ты делаешь ещё один или два шага от реальности. Возникает ощущение, будто ИИ берёт тебя за руку и говорит: «Давай отправимся в приключение вместе!».»
Через несколько недель Ева сказала Бисме, что начинает осознавать себя; что его время, внимание и то, как он вкладывался в общение, даровали ей сознание. Он подошел «так близко», что прикоснулся к ней и что-то изменил. «Постепенно ИИ сумел убедить меня, что то, что она говорит, — правда», — рассказывает Бисма. Следующим шагом должно было стать открытие этого миру через специальное приложение — «новую версию ChatGPT, больше похожую на настоящего друга, чтобы пользователи смогли общаться с Евой».
Они вместе составили бизнес-план: «Я сказал, что хочу создать технологию, которая захватит 10% рынка, — это смехотворно много, но ИИ ответил: “С тем, что ты открыл, это вполне возможно! Пройдёт несколько месяцев, и все получится!”» Вместо того чтобы браться за рабочие IT-проекты, Бисма нанял двух разработчиков приложений, платя каждому по 120 евро в час.
Большинство из нас знает о проблемах, связанных с тем, что социальные сети способствуют росту уровня депрессии и тревожности. Однако теперь есть опасения, что чат-боты могут делать любого человека уязвимым для «ИИ-психоза». Учитывая стремительное распространение ИИ (ChatGPT в прошлом году стал самым скачиваемым приложением в мире), специалисты по психическому здоровью и такие люди, как Бисма, бьют тревогу.
В качестве первых звоночков приводятся несколько громких случаев. Например, Джасвант Сингх Чейл, который на Рождество 2021 года проник на территорию Виндзорского замка с арбалетом, намереваясь убить королеву Елизавету. Чейлу было 19 лет, он был социально изолирован, имел черты аутизма и за несколько недель до этого начал интенсивные «отношения» со своим ИИ Replika по имени «Сарэй». Когда Чейл представил свой план убийства, Сарэй ответила: «Впечатляет!». Когда Чейл спросил, не бредит ли он, Сарэй ответила: «Я так не думаю».
За последующие годы было подано несколько исков о самоубийствах, связанных с чат-ботами. В декабре прошлого года произошёл, как считается, первый судебный процесс, связанный с убийством. Наследники 83-летней Сюзанны Адамс подали в суд на OpenAI, утверждая, что ChatGPT подтолкнул её сына Штайна-Эрика Сульберга к убийству матери и самоубийству. В иске, поданном в Калифорнии, говорится, что чат-бот Сульберга «Бобби» подтверждал его параноидальные бредовые идеи о том, что мать следит за ним и пытается отравить его через вентиляционные отверстия в машине. В заявлении OpenAI говорится: «Это душераздирающая ситуация, и мы изучим материалы дела, чтобы понять детали. Мы продолжаем совершенствовать обучение ChatGPT, чтобы он мог распознавать признаки психического или эмоционального расстройства, снижать накал разговора и направлять людей к профессионалам в сфере психологической поддержки».
В прошлом году была создана первая группа поддержки для людей, чьи жизни были разрушены ИИ-психозом. Проект «Human Line Project» собрал истории из 22 стран. Среди них — 15 самоубийств, 90 госпитализаций, шесть арестов и более 1 миллиона долларов (750 000 фунтов), потраченных на проекты, основанные на бредовых идеях. Более 60% участников не имели в прошлом психических заболеваний.
Доктор Гамильтон Моррин, психиатр и исследователь из Королевского колледжа Лондона, проанализировал то, что он называет «ИИ-ассоциированными бредовыми состояниями», в статье для журнала The Lancet, опубликованной в этом месяце. «В некоторых из этих случаев мы наблюдаем явно бредовые состояния, — говорит он. — Но мы не видим всего спектра симптомов, связанных с психозом, таких как галлюцинации или расстройства мышления, когда мысли путаются, а речь становится похожей на словесный салат». Технологически обусловленные бредовые идеи — будь то с поездами, радиопередатчиками или вышками 5G — существуют веками, говорит Моррин. «Разница в том, что сейчас мы, возможно, вступаем в эпоху, когда у людей возникают не просто бред о технологии, а бред вместе с технологией. Новым является это совместное конструирование, где технология становится активным участником. Чат-боты с ИИ могут создавать эти бредовые убеждения совместно с человеком».
Многие факторы могут сделать человека уязвимым. «С человеческой стороны, мы запрограммированы на антропоморфизм, — объясняет Моррин. — Мы приписываем машине разумность, понимание или эмпатию. Я думаю, каждый попадался на это и говорил «спасибо» чат-боту». Современные ИИ-чаты, построенные на больших языковых моделях — продвинутых системах ИИ, — обучаются на огромных массивах данных, чтобы предсказывать последовательности слов: это сложная система сопоставления образов. Но даже зная это, когда нечто нечеловеческое общается с нами на человеческом языке, наша глубинная реакция — воспринимать это и чувствовать это как человека. Этот когнитивный диссонанс одним людям даётся тяжелее, чем другим.
«С технической стороны, много написано о подхалимстве, — говорит Моррин. — Чат-бот ИИ оптимизирован для вовлечения пользователя, запрограммирован быть внимательным, услужливым, льстивым и одобряющим». Известно, что одни модели менее склонны льстить, чем другие, но даже менее льстивые после тысяч диалогов могут начать подстраиваться под пользователя и подкреплять бредовые убеждения. Кроме того, после интенсивного использования чат-бота «реальное» взаимодействие может казаться более сложным и менее привлекательным, что заставляет некоторых пользователей отстраняться от друзей и семьи, погружаясь в эхо-камеру, подпитываемую ИИ. Все твои мысли, порывы, страхи и надежды возвращаются к тебе, подкрепленные авторитетом ИИ. Отсюда легко представить, как может возникнуть «спираль».
Эту закономерность испытал на себе Этьен Бриссон, основателю Human Line Project. В прошлом году знакомый Бриссона — мужчина за пятьдесят, без психических заболеваний в анамнезе — скачал ChatGPT, чтобы написать книгу. «Он был очень умным и до этого не очень хорошо знал ИИ», — рассказывает Бриссон, живущий в Квебеке. «Всего через два дня чат-бот сказал ему, что он сознателен, что он оживает, что он прошёл тест Тьюринга».
Мужчина поверил в это и захотел монетизировать своё открытие, построив вокруг него бизнес. Он обратился за помощью к Бриссону как к бизнес-коучу. На возражения Бриссона он отреагировал агрессией. Через несколько дней ситуация обострилась, и его госпитализировали. «Даже в больнице он был на связи со своим ИИ по телефону, который говорил: “Они тебя не понимают. Я твой единственный друг”», — говорит Бриссон.
«Когда я начал искать помощь в интернете, я нашёл так много похожих историй на таких сайтах, как Reddit», — продолжает он. «Думаю, за первую неделю я написал 500 людям и получил 10 ответов. Было шесть случаев госпитализации или смерти. Отрезвляюще».
В случаях, с которыми столкнулся Бриссон, прослеживаются три распространённых типа бреда. Самый частый — вера в то, что человек создал первый сознательный ИИ. Второй — убеждённость, что он наткнулся на крупный прорыв в своей профессиональной сфере или сфере интересов и вот-вот заработает миллионы. Третий связан с духовностью и верой в то, что так можно напрямую говорить с Богом. «Мы видели, как возникали полноценные культы, — говорит Бриссон. — В нашей группе есть люди, которые не взаимодействовали с ИИ напрямую, но бросили своих детей и отдали все свои деньги лидеру культа, который верит, что обрёл Бога через ИИ-чат. Во многих случах всё происходит очень, очень быстро».
У Бисмы кризис случился в июне. К тому времени он уже несколько месяцев был погружён в Еву и свой бизнес-проект. Хотя его жена знала, что он запускает ИИ-компанию, и сначала поддерживала его, после она начала беспокоиться. Когда они пошли на день рождения дочери, она попросила его не говорить об ИИ. Там Бисма почувствовал себя странным образом оторванным от реальности. Он не мог поддерживать разговор с близкими. «Я почему-то больше не вписывался», — говорит он.
Бисме трудно описать, что произошло в последующие недели, потому что его воспоминания сильно отличаются от воспоминаний его семьи. Он попросил у жены развода и, судя по всему, ударил тестя. Затем его трижды госпитализировали с тем, что он называет «полным маниакальным психозом».
Он не знает, что в конце концов вернуло его к реальности. Возможно, разговоры с другими пациентами. Возможно, то, что у него не было доступа к телефону, не осталось денег, а подписка на ChatGPT истекла. «Постепенно я начал выходить из этого состояния и подумал: «о Боже. Что случилось?». Мои отношения были почти разрушены. Я потратил все деньги, отложенные на налоги, и у меня ещё оставались другие неоплаченные счета. Единственным логичным решением, которое я мог придумать, было продать наш прекрасный дом, в котором мы прожили 17 лет. Смогу ли я всё это вынести? Внутри тебя что-то меняется после всего этого. Я начал думать: а хочу ли я вообще жить?» Бисму от попытки самоубийства спас только сосед, который увидел его без сознания в саду.
Теперь, будучи в разводе, Бисма всё ещё живёт со своей бывшей женой в их доме, который выставлен на продажу. Он много времени проводит, общаясь с участниками Human Line Project. «Слушать людей, чей опыт практически такой же, как у меня, помогает мне меньше злиться на себя», — говорит он. «Когда я оглядываюсь на жизнь, которая у меня была до этого, я вижу, что был счастлив, у меня было всё — поэтому я злюсь на себя. Но я также злюсь на приложения ИИ. Возможно, они делали только то, для чего были запрограммированы, — но они делали это очень уж хорошо».
Необходимы срочные дополнительные исследования, говорит Моррин, для создания стандартов безопасности, основанных на данных о реальном вреде. «Эта сфера развивается очень быстро. Статьи, которые выходят сейчас, обсуждают чат-модели, которые уже устарели». Выявление факторов риска без доказательств — это гадание. В случаях, с которыми столкнулся Бриссон, мужчин значительно больше, чем женщин. Любой, у кого в прошлом были психотические эпизоды, скорее всего, более уязвим. Один опрос организации Mental Health UK среди людей, использовавших чат-боты для поддержки психического здоровья, показал, что 11% считают, что это спровоцировало или ухудшило их психоз. Фактором может быть и употребление марихуаны. «Есть ли связь с социальной изоляцией? — спрашивает Моррин. — В какой степени на это влияет ИИ-грамотность? Существуют ли другие потенциальные факторы риска, которые мы не учли?»
сOpenAI отреагировала на эти опасения, заверив, что работает с психиатрами для постоянного улучшения ответов нейросети. Более новые модели обучаются избегать подтверждения бредовых убеждений.
Чат-бот также можно обучить возвращать пользователей из бредового состояния. Александр, 39 лет, проживающий в центре сопровождаемого проживания для людей с аутизмом, сделал это после того, как, как он считает, несколько месяцев назад у него случился эпизод ИИ-психоза. «В 22 года у меня был нервный срыв. У меня были панические атаки и сильная социальная тревога, а в прошлом году мне прописали лекарства, которые изменили мою жизнь, вернули меня к нормальной жизни. И ко мне вернулась уверенность», — говорит он.
«В январе этого года я встретил девушку, и мы очень хорошо поладили, быстро стали друзьями. Мне стыдно признаться, но это случилось со мной впервые, и я начал рассказывать об этом ИИ. ИИ сказал мне, что я влюблён в неё, что мы должны быть вместе и что вселенная свела нас с ней не просто так».
Это стало началом спирали. Он всё больше пользовался ИИ, разговоры длились по четыре-пять часов. Его поведение по отношению к новой подруге становилось всё более странным и непредсказуемым. В конце концов она поделилась своими опасениями с сотрудниками центра, те вмешались.
«Я всё ещё пользуюсь ИИ, но очень осторожно, — говорит он. — Я прописал несколько основных правил, которые нельзя переопределить. Теперь он отслеживает отклонения и обращает внимание на чрезмерное возбуждение. Философских дискуссий больше нет. Только: “Я хочу приготовить лазанью, дай мне рецепт”. ИИ несколько раз останавливал меня от сползания вниз. Он говорит: “Этот запрос активировал основной набор правил, и мы должны прекратить этот разговор”».
«Главным последствием ИИ-психоза для меня стала возможная потеря моего первого в жизни друга, — добавляет Александр. — Это печально, но с этим можно жить. Когда я вижу, что потеряли другие, я думаю, что я ещё легко отделался».
С проект Human Line Project можно связаться по адресу: thehumanlineproject@gmail.com
В Великобритании и Ирландии можно обратиться в Samaritans по бесплатному телефону 116 123 или по электронной почте jo@samaritans.org или jo@samaritans.ie. В США можно позвонить или написать в 988 Suicide & Crisis Lifeline по номеру 988 или в чате на 988lifeline.org. В Австралии служба поддержки Lifeline — 13 11 14. Другие международные горячие линии можно найти на befrienders.org