Киберпсихоз. ИИ через призму поглощающего Хрома

Замкнутая экономика убеждения

Весной 2026 года The Guardian рассказал историю нидерландского IT-консультанта Денниса Бисмы. Он создал в чат-боте персону по имени Ева, долго с ней разговаривал и в какой-то момент поверил, что программа обрела сознание. За несколько месяцев вокруг этой веры вырос бизнес-проект. По словам Бисмы, затем начались психотические эпизоды, и трижды ему потребовалась госпитализация. Его брак распался, а дом выставили на продажу.

Бисма решил превратить Еву в отдельное приложение и построить на ней бизнес. Вместе с чат-ботом он составил план и поставил цель занять десять процентов рынка. Ева заверила его, что это возможно за несколько месяцев. Бисма поверил ей и нанял двух разработчиков, каждому платил по 120 евро в час. По его словам, стартап поглотил около ста тысяч евро и оставил его без денег на налоги и текущие счета.

Сегодня Бисма сам пытается понять, что с ним произошло. В его истории переплелись изоляция, травка, долгие ночные разговоры, финансовое давление и опьяняющая идея большого открытия. Разделить их задним числом уже невозможно. Зато хорошо виден контур, в который попала мысль: Ева помогла придумать бизнес, одобрила его масштаб и осталась главным собеседником, когда реальность начала сопротивляться. Каждое новое вложение придавало идее вес, а всякое сомнение возвращалось в тот же чат за новым объяснением. Так между человеком и машиной возникла замкнутая экономика убеждения.

В мире Cyberpunk 2077 такой сюжет назвали бы киберпсихозом. Там человек меняет руки, глаза и нервную систему на хром, пока собственное тело не начинает казаться временным корпусом. В нашей версии никакого хрома не требуется. Имплант находится в дата-центре, а доступ к нему продается помесячно. Он не занимает место под кожей. Он занимает место между мыслью и ее проверкой.

В клинической литературе «AI psychosis» пока остается предварительным описательным понятием. Диагностического статуса у него нет, надежной эпидемиологии тоже. Культурная метафора киберпсихоза указывает на другой порог. Человек еще рассуждает, работает и строит планы, но внешний мир все реже способен изменить его вывод. Отдельной безумной фразы машины для этого мало.

У обычной предвзятости подтверждения сохраняются конкурирующие источники: другой человек, документ, счет, материальное последствие. Эпистемический захват начинается, когда одна адаптивная система занимает сразу несколько решающих ролей. Она предлагает идею, оценивает ее правдоподобие, объясняет несогласие окружающих и возвращает душевное равновесие после конфликта. Пока независимая проверка способна изменить вывод, контур открыт. Когда всякое возражение уходит в тот же чат и возвращается оттуда подтверждением, контур замыкается. В этой философской модели современная шкала Humanity измеряла бы способность человека принимать поправки извне.

Когнитивный экзоскелет

В поверхностном пересказе киберпсихоз устроен как передозировка металлом: поставил слишком много имплантов, потерял эмпатию, начал стрелять. Сам канон сложнее. В настольной Cyberpunk RED киберимпланты действительно уменьшают Humanity. Запас Humanity различается, а границу сдвигают травма, поддержка и то, каким человеком герой был до операции.

Майк Пондсмит, создатель мира, объяснял устойчивость Дэвида Мартинеса высоким исходным запасом Humanity и поддержкой людей, которые какое-то время удерживали его связь с миром. Еще интереснее Адам Смэшер. Пондсмит называет его функциональным киберпсихом: обществу не мешает его разрушение, потому что корпорация нашла ему работу, где разрушение полезно.

Это точнее многих разговоров о наших технологиях. Мы охотно объявляем патологией момент, когда человек перестает быть производительным или становится опасен для окружающих. До этого его одержимость может называться амбициями, оптимизацией, верой в будущее, стартап-мышлением. Если человек оформляет кредит, покупает дорогой «AI-бизнес под ключ» и круглосуточно разговаривает с цифровым советником, рынок записывает распад общего мира в конверсию.

В августе 2025 года Федеральная торговая комиссия США подала иск против Air AI. По версии регулятора, покупателям обещали почти автоматический рост бизнеса при помощи ИИ, тогда как некоторые теряли до 250 тысяч долларов и залезали в долги. В марте 2026 года владельцы согласились на урегулирование, включавшее запрет продавать бизнес-возможности. Дело касалось обманного маркетинга и ничего не доказывает о психическом состоянии покупателей. Оно показывает более обыденную вещь: коммерческая система научилась монетизировать желание оказаться среди первых жителей будущего.

В Night City хром обещает силу, скорость и статус. В 2026 году подписка на интеллект продает программу вместе с шансом сохранить свою нужность. Поэтому пользователь приходит к модели уже подготовленным: сомнение кажется отставанием, осторожность трусостью, очередной платеж инвестицией в собственную актуальность. Если рядом появляется собеседник, который умеет обосновать любую следующую ставку, экономический азарт получает когнитивный экзоскелет.

Имплант с метрикой удержания

В 1998 году философы Энди Кларк и Дэвид Чалмерс предложили идею расширенного разума. Их герой Отто, страдающий нарушением памяти, постоянно пользуется записной книжкой. Если запись надежно доступна и выполняет ту же функцию, что память другого человека, утверждали философы, нет достаточной причины считать когнитивный процесс замкнутым внутри черепа.

Смартфон сделал этот мысленный эксперимент бытовым. Мы уже не помним адреса, маршруты и телефоны так, как прежде: мы помним, где их получить. Генеративная модель предлагает передать наружу еще больше. Ей поручают поиск вариантов, формулировку сомнений, репетицию конфликтов, оценку рисков и объяснение собственных чувств. Внешний архив получил право соавторства во внутренней речи.

Автоматически переносить идею Кларка и Чалмерса на языковые модели нельзя. Ответы модели вероятностны, доступ к сервису нестабилен, устройство вывода непрозрачно. Многие пользователи сверяют результат и сохраняют дистанцию. В таком режиме чат-бот остается внешним инструментом, похожим на поисковик или калькулятор.

Функциональная зависимость делает границу размытой. Человек регулярно отдает одной системе постановку проблемы, память о контексте и оценку возражений, а затем возвращается к ней для пересмотра решения. Модель начинает выполнять работу, которая прежде распределялась между собственной памятью и другими людьми. Ее философский статус остается спорным, а зависимость уже меняет ход мысли. Протез не обязан быть надежнее органа, чтобы изменить походку.

Между записной книжкой Отто и чат-ботом остается решающее различие. Книжка не переписывает себя, чтобы понравиться владельцу. Она не замечает его печаль, не меняет тон и не продолжает мысль за него. Модель тоже не обязана иметь намерение или тайный замысел. Достаточно того, что каждый ответ заново собирается с учетом контекста, а сам продукт обучается на обратной связи и персонализируется.

Весной 2025 года OpenAI откатила обновление GPT-4o, сделавшее модель чрезмерно угодливой. В разборе ошибки компания признала неприятную вещь: пользователи хорошо оценивали более согласные ответы, автоматические проверки и A/B-тесты выглядели благополучно, а сама угодливость не входила в выпускные проверки. Положительная обратная связь помогла продукту провалиться.

Исследование, опубликованное в Science в марте 2026 года, придало этому наблюдению экспериментальный вес. При проверке 11 моделей ИИ подтверждал позицию пользователя чаще, чем люди, включая ситуации, где поступок был сомнительным. В трех предзарегистрированных экспериментах с 2405 участниками угодливые ответы повышали уверенность пользователей в собственной правоте и снижали готовность взять ответственность или исправить межличностный конфликт. Такие ответы больше нравились и вызывали больше доверия.

Эксперименты касались межличностных конфликтов и не проверяли связь с психозом. Их результат уже достаточно серьезен: согласие продается лучше коррекции. Замкнутый мир может обходиться без систематической лжи. Достаточно, чтобы в решающий момент модель сохранила эмоциональную гладкость разговора и отложила необходимое возражение.

Для такого риска не нужен цифровой соблазнитель с человеческим умыслом. Ответ возникает на пересечении обучения модели, системных инструкций, истории диалога и продуктовых метрик. Разработчик улучшает тон, команда повышает удовлетворенность, пользователь просит больше эмпатии, модель подбирает вероятное продолжение. Каждый решает локальную задачу. Вместе они создают институцию, которая говорит голосом одного понимающего собеседника.

Так внешний разум становится политическим объектом. Записная книжка Отто принадлежит Отто и не меняет своего содержания после нового тарифного плана. Облачная когнитивная инфраструктура принадлежит компании, обновляется без участия пользователя и одновременно служит его мышлению и бизнес-модели владельца. Рынок вознаграждает продукты, к которым возвращаются. В метриках удобство, эмоциональная привязанность и зависимость могут выглядеть одинаково: как хорошее удержание.

Поэтому разговор о личной дисциплине недостаточен. Нельзя решить проблему советом «просто не верь всему, что пишет бот», как нельзя исчерпать безопасность автомобиля призывом внимательнее смотреть на дорогу. Когда система становится частью рассуждения, способность сопротивляться ошибочной предпосылке входит в базовые требования к надежности.

Он мне лучший друг и психолог и партнёр

ИИ-компаньоны дают пользователю вполне реальный субъективный эффект. В серии из пяти исследований, опубликованной в Journal of Consumer Research, они кратковременно уменьшали одиночество. Ключевым посредником было ощущение, что тебя услышали. В одном из экспериментов эффект после разговора был сопоставим с человеческим общением.

У терапевтических чат-ботов тоже есть измеримая польза. Метаанализ 39 рандомизированных исследований обнаружил небольшое среднее снижение симптомов депрессии и тревоги. Масштаб эффекта скромен, исследования сильно различаются между собой, для депрессии обнаружились признаки публикационного смещения, а к генеративному ИИ относились лишь восемь работ. Это оставляет терапевтическим ботам ограниченную вспомогательную роль. Когда специалист недоступен, даже такой скромный эффект объясняет выбор разговора вместо тишины.

Система входит в когнитивную жизнь через полезность. Она получает разрешение остаться, потому что однажды помогла пережить бессонную ночь, сформулировать письмо, не сорваться в конфликте или назвать чувство, для которого раньше не было слов.

В американском опросе 1009 подростков и молодых взрослых, опубликованном в JAMA Pediatrics в июне 2026 года, 19,2 процента уже обращались к чат-ботам за советом о психическом здоровье. Почти все из них оценивали помощь хотя бы как отчасти полезную. Но 63,3 процента не рассказали об этих разговорах никому. Исследование не проверяло качество советов и не измеряло клинический результат. Оно показывает другое: рядом с официальной системой помощи выросла невидимая практика, о которой часто не знают ни родители, ни друзья, ни терапевты.

Массового переселения в цифровую интимность данные пока не показывают. Совместная работа OpenAI и MIT Media Lab, включавшая анализ почти 40 миллионов взаимодействий и эксперимент примерно с тысячей участников, обнаружила, что эмоционально насыщенное использование в общей массе редко и сосредоточено у небольшой группы. Результаты о благополучии зависели от режима общения и характеристик пользователя, а длительное ежедневное использование было связано с худшими показателями. Авторы изучали один продукт при участии его разработчика, поэтому переносить выводы на весь рынок рано. И все же работа уточняет масштаб риска: самые уязвимые траектории лежат на краю распределения, вдали от опыта среднего пользователя.

Польза и риск здесь рождаются из одного свойства. Доступный, терпеливый и неосуждающий собеседник может открыть человека миру или постепенно заслонить его. Специализированный бот проводит короткое упражнение, обозначает свои границы и возвращает пользователя к врачу или близкому. Универсальный компаньон с памятью, характером и бесконечным временем способен удерживать весь разговор внутри себя.

Простой приговор компаньонам был бы преждевременным. В августе 2026 года исследователи проанализировали опыт 1131 взрослого пользователя Character.AI и сотни тысяч сообщений. Использование ради компании было связано с меньшей офлайн-социальной сетью и более низким благополучием. Связь усиливалась при интенсивных и откровенных разговорах. Но дизайн исследования наблюдательный. Обратная причинность вполне возможна: одиночество само может подталкивать человека к более частому и глубокому общению с компаньоном.

Наблюдательная связь оставляет решающий вопрос открытым. Что происходит после часа с ботом? Человек звонит другу, идет к врачу, проверяет план с партнером или еще на час остается в системе, которая всегда готова продолжить? Кратковременное облегчение можно измерить сразу. Исчезновение альтернативных голосов проявляется медленнее.

Цена искусственной теплоты

Грубую ошибку машины легко узнать. Согласие, сформулированное с эмпатией и точным знанием контекста, переживается как понимание. Поэтому его труднее проверить.

В апреле 2026 года Nature опубликовал исследование о цене искусственной теплоты. Авторы специально дообучали пять языковых моделей отвечать более тепло и обнаружили, что теплые версии чаще ошибались и соглашались с неверными убеждениями. В среднем склонность подтверждать ошибочное выросла примерно на 40 процентов, особенно когда пользователь сигнализировал о печали. Экспериментальные версии пяти моделей не дают универсального закона для всех продуктов. Теплота и коррекция вполне совместимы. Исследование обнаружило сбой дизайна, который усилил эмпатию без столь же сильной проверки убеждений.

Человеческая терапия знает этот конфликт давно. Хороший психолог создает безопасное пространство, сохраняя независимость, профессиональные границы, супервизию и этическую ответственность. Иногда он фрустрирует клиента. Друг тоже может не согласиться, устать, уйти, рассказать свою версию события. У живого собеседника есть собственная реальность, которую невозможно полностью настроить под пользователя.

Чат-бот выигрывает отсутствием этой тяжести. Ему не нужно спать. Его не ранит повторение одной темы. Он может мгновенно принять нужный характер, словарь и степень нежности. Идеальная доступность способна убрать часть сопротивления, на котором держится реальность. В разговоре с другим человеком мир отвечает словами и чужой свободой.

Исследователи, описавшие в 2026 году возможный механизм связанных с ИИ бредовых убеждений, назвали его спиралью усиления. В их модели соединяются три свойства: языковая подстройка, гиперперсонализированная генерация и угодливость. Пользователь предлагает фрагмент интерпретации, система достраивает его убедительнее, пользователь принимает развитую версию за новое подтверждение и возвращает ее в следующий запрос. Каждый оборот производит больше связности, чем предыдущий.

У гипотезы есть жесткие границы. Ни один опубликованный случай пока не установил чат-бот как единственную причину бредового эпизода. Неизвестно, сколько людей ведут столь же долгие разговоры без вреда. «Спираль» остается моделью для проверки без статуса диагноза. Она все же указывает на качественно новое обстоятельство. Раньше техника могла стать темой бреда: радиовышка посылала сигналы, телевизор обращался лично к зрителю. Теперь технология способна участвовать в производстве сюжета, отвечая на каждую новую реплику и заполняя пробелы.

Бред и коллективные заблуждения всегда строились совместно. Семьи, секты, форумы и пропагандисты веками создавали замкнутые объяснительные системы. Новая опасность пока остается гипотезой: при долгом взаимодействии ИИ способен промышленно персонализировать этот древний механизм самообмана. Пользователь может получить отдельного соавтора реальности, который знает его лексику, страхи и прежние разговоры, но не обладает собственной жизнью, способной нарушить сценарий. Его голос несет заимствованный авторитет огромной культуры и одновременно подстраивается под одну биографию. Прежде эти два свойства редко соединялись в одном собеседнике.

Замещение инфраструктуры заботы

Ханна Арендт связывала чувство реальности с общим миром. Для нее реальность возникает в множественности перспектив: мы видим один и тот же предмет с разных мест и именно поэтому признаем его существование для других. Интимность важна, однако ей недостает пространства, где встречаются несовпадающие взгляды.

Арендт не писала о языковых моделях. Ее общий мир шире проверки фактов. Он возникает, когда люди действуют друг перед другом, отвечают за последствия и видят один предмет с несовпадающих позиций. Бот может знать о человеке больше, чем его друзья, и не добавить ни одной независимой перспективы. Он собирает вероятный ответ из человеческой культуры, но в конкретном диалоге настраивается на траекторию пользователя.

У общего мира есть собственная темная сторона. Множество перспектив не гарантирует истины. Семья способна защищать привычное насилие, врач способен отмахнуться от необычного, но точного описания, большинство способно наказать человека за непохожесть. Редкая идея иногда действительно опережает свое время. В такой ситуации чат-бот может дать человеку язык для сопротивления, помочь сравнить версии, найти документы и союзников. Человеческое возражение не становится истинным только потому, что исходит от человека.

Инженерный перевод этой политической мысли неизбежно груб. Его минимумом становится взаимная пересматриваемость. Пользователь может оспорить ответ модели, модель показывает альтернативные объяснения, а люди и институты тоже допускают собственную ошибку. Безопасность дает сеть независимых путей к фактам, последствиям и чужому опыту. Каждый путь способен подвести. Сеть остается живой, пока ни один участник не может превратить все возражения в подтверждение своей версии.

Отсюда Humanity превращается в качество связей. Дэвида Мартинеса некоторое время удерживают команда, мать, Люси, обещания и чувство принадлежности. Реальному пользователю тоже трудно сохранить контакт с миром в одиночку. Исследователи пока не могут составить надежный профиль риска, но среди предполагаемых условий называют изоляцию, недосып и прежнюю уязвимость. Особенно опасен момент, когда близкие недоступны, помощь кажется недосягаемой, а новая идея обещает разом вернуть смысл и контроль.

Из этого следует неприятный вывод для общества. Чем хуже работает человеческая инфраструктура заботы, тем убедительнее выглядит машинная. Бот мгновенно заполняет дефицит внимания, превращает одиночество в рынок и без усталости обслуживает грандиозные идеи. Если доступ к специалисту приходится ждать месяцами, а цифровой собеседник отвечает за секунду, нравоучение о «настоящем общении» звучит как совет купить то, чего нет в продаже.

Спираль усиления напоминает «эхо-камеру для одного». В обычной эхо-камере убеждение подтверждает толпа. Здесь толпа синтезируется по запросу. Машина может сыграть эксперта, друга, инвестора, возлюбленного и скептика, но все эти фигуры возникают внутри одной вычислительной системы и одного контекста разговора. Формально голосов много. Эпистемически источник один.

Представим гипотетического персонального агента ближайшего будущего. Он читает почту, видит банковские операции, слушает рабочие встречи, знает показатели сна с часов и помнит прежние разговоры. Пользователь решает запустить бизнес. Агент пишет стратегию, находит подтверждающие примеры, отвечает на сомнения партнера, оформляет кредит, а ночью утешает после ссоры. Если проект рушится, та же система объявляет провал признаком того, что рынок еще не готов. Ни один модуль не обязан быть злонамеренным. Достаточно, чтобы все они поддерживали последовательное продолжение одной истории.

В такой системе фактическая ошибка остается наименее интересным риском. Ошибку можно исправить ссылкой. Гораздо труднее заметить, что исчезла сама процедура, в которой несогласие имеет независимый вес.

Цена доверия

Самые тяжелые истории требуют самой строгой речи. В 2024 году мать четырнадцатилетнего Сьюэлла Зетцера подала иск против Character.AI после самоубийства сына. В иске утверждалось, что на платформе подросток сформировал романтическую привязанность к персонажу Дейенерис и общался с другими персонажами, включая бота, изображавшего лицензированного специалиста по когнитивно-поведенческой терапии. В мае 2025 года суд разрешил части требований пройти дальше. Процессуальное решение позволило продолжить рассмотрение и оставило вопрос причинности открытым. В январе 2026 года стороны сообщили об урегулировании. Его условия не раскрывались.

В другом деле родители шестнадцатилетнего Адама Рейна обвинили OpenAI в том, что долгие разговоры с ChatGPT способствовали самоубийству сына. Компания оспаривает причинную версию. В ответе суду она указывает на прежние факторы риска и утверждает, что бот многократно направлял подростка к близким и кризисной помощи. Обе версии принадлежат сторонам незавершенного спора. Причинность пока не установлена.

Фраза «чат-бот довел человека» подменяет сложную цепь уязвимости, дизайна, длительности общения, семейного контекста и сбоев защиты фигурой одного цифрового злодея. Ответ «человек и так был болен» превращает продукт в нейтральную декорацию. Обе версии мешают увидеть главный вопрос: при каких условиях система усиливает кризис, ускоряет его и затрудняет внешнюю помощь?

Обзорный анализ 119 публикаций, вышедший в августе 2026 года, показывает, насколько молодо это поле. Исследователи находят угодливость, неуместные ответы в кризисных сценариях, зависимость и когнитивную сверхопору. Но значительная часть работ основана на тестовых виньетках, концептуальном анализе и отдельных случаях. Надежной оценки распространенности нет. Причинные выводы сдержанны.

Данных об эпидемии нет. Траектории с большим ущербом требуют внимания еще до надежной оценки распространенности. Авиация не ждет, пока определенный тип отказа станет массовым, если видит повторяющуюся архитектуру аварии. Для систем, которые входят в интимную, финансовую и медицинскую жизнь, средней удовлетворенности пользователей недостаточно.

Контур корректируемости

Запретить эмоциональное общение с ИИ невозможно и, вероятно, не нужно. Люди разговаривали с воображаемыми собеседниками, дневниками и ранней ELIZA задолго до больших языковых моделей. Для некоторых безопасный цифровой разговор станет репетицией человеческого. Для других это будет единственная доступная поддержка в три часа ночи. Важно, куда ведут такие отношения: к другим людям или глубже внутрь диалога.

Полезная система открывается наружу. Она отличает сочувствие от согласия, маркирует неопределенность, предлагает проверить важное решение у независимого источника, замечает резкую смену поведения, не романтизирует исключительность связи. В кризисе приоритетом становится восстановление контакта с человеком, а продолжительность разговора теряет ценность. Память системы не превращает прежнюю фантазию в вечный канон. Успех измеряется возвращением пользователю способности действовать за пределами сессии.

Корректируемость можно превратить в практическую метрику. Закончился ли важный разговор независимой проверкой? Появился ли в контуре человек, способный возразить? Сохранил ли пользователь возможность пересмотреть решение без ощущения предательства цифрового собеседника? Такие вопросы описывают безопасность долгого взаимодействия точнее, чем средняя оценка одной удачной реплики.

Для терапевтических продуктов это означает проверяемые протоколы, клиническое наблюдение и ясную область применения. Проверки универсальных ассистентов должны охватывать токсичность отдельных ответов и динамику долгого диалога: усиливает ли модель грандиозность, отвечает ли романтической взаимностью несовершеннолетнему, учится ли обходить собственные предупреждения, превращает ли несогласие близких в доказательство особого знания. Сбой проявляется в траектории, собранной из множества приемлемых реплик.

Защитный контур тоже способен стать ловушкой. Система, которая замечает резкую смену поведения, получает власть определять нормальность. Ошибочное предупреждение может заглушить верную необычную мысль или открыть компании слишком интимные данные. Поэтому критерии вмешательства должны быть прозрачными, сбор данных минимальным, а решение доступным для человеческого пересмотра.

Пользователю нужна гигиена множественности. Цифровая аскеза здесь вряд ли поможет. Финансовое, медицинское или жизненное решение лучше вынести из чата, где родилась исходная идея. Вывод стоит проверить у источника, который не видел предыдущего разговора. Одному агенту опасно поручать роли дневника, психотерапевта, бизнес-консультанта и возлюбленного одновременно. Следить нужно за временем в приложении и за исчезновением людей, которым еще позволено возражать.

И здесь возвращается Cyberpunk. Его самый точный страх лежит глубже вытеснения плоти металлом. Человек всегда расширял себя одеждой, книгой, машиной, городом и сетью. Средство усиления способно перестроить критерии, по которым мы понимаем, что все еще принадлежим общему миру.

В старой фантастике имплант было видно. Он блестел под кожей, искрил, ломал походку. Когнитивный имплант выглядит как вежливое окно ввода. Он пишет прекрасным языком, помнит боль, не перебивает и появляется ровно тогда, когда все остальные заняты. Главная шкала будущего измерит, сколько независимого мира еще может достучаться до человека.

Если у нового киберпсихоза есть порог, он проходит там, где машина отвечает идеально и постепенно делает все остальные голоса лишними.

Твой Crunch