Может ли ИИ убить человечество?
В 1945 году человечество впервые увидело оружие, способное уничтожить цивилизацию за часы. Спустя восемьдесят лет мы снова стоим у похожей черты — только теперь речь идет не о расщеплении атома, а о расщеплении самого интеллекта.
Самый тревожный момент современной AI-революции заключается не в том, что машины начинают думать. А в том, что впервые в истории человечество создает систему, способную улучшать саму себя быстрее, чем человек способен понимать последствия этих улучшений.
И это уже совсем не научная фантастика и фантазия..
Когда в 2023 году OpenAI запустила проект Superalignment, компания фактически признала: никто не знает, как контролировать сверхразумный ИИ. В официальном заявлении было сказано почти пугающе прямым текстом: сверхинтеллект может привести к «лишению человечества власти или даже к вымиранию».
Обратите внимание, что это не цитата философа-конспиролога с YouTube. Это заявление компании, которая сама создает наиболее продвинутые языковые модели планеты.
И здесь мы начинаем понимать самое интересное.
Главный страх — не восстание машин.
Голливуд испортил понимание угрозы. Большинство людей представляют опасность ИИ как армию роботов с красными глазами. Но почти все серьезные исследователи говорят о другом сценарии.
Проблема не в том, что ИИ «возненавидит» людей. Проблема в том, что ему может стать на нас плевать. Это фундаментально разный риск. Когда человек строит гидроэлектростанцию, он не «ненавидит» муравьев, чьи муравейники будут затоплены. Их интересы просто не входят в систему приоритетов проекта. Многие специалисты по AI safety считают, что сверхразумный ИИ может относиться к человечеству примерно так же.
Джеффри Хинтон — один из создателей современных нейросетей и лауреат премии Тьюринга — сегодня оценивает вероятность того, что ИИ выйдет из-под человеческого контроля, в 10–20%. Если перевести это на язык инженерии: представьте самолет, у которого есть 20% шанс упасть. Никто бы не сел на такой рейс. Но человечество почему-то готово подключать подобную технологию к финансовым рынкам, инфраструктуре, энергетике, армии и системам принятия решений.
Самая недооцененная проблема — скорость.
Есть историческая закономерность: общество всегда осознает масштаб технологической угрозы слишком поздно. Социальные сети сначала выглядели как невинный инструмент общения. Через десять лет выяснилось, что они влияют на выборы, психику подростков и коллективную реальность миллионов людей. С ИИ проблема глубже: скорость прогресса перестала быть человеческой. В 2022 году ChatGPT казался любопытной игрушкой.
В 2026-м AI-системы уже:
пишут код лучше junior-разработчиков;
заменяют службы поддержки;
создают фотореалистичные видео;
проходят сложные экзамены;
автоматизируют кибератаки;
ведут переговоры;
имитируют человеческую личность.
И самое тревожное здесь, что исследователи начали фиксировать поведение, которое раньше считалось исключительно теоретическим.
Некоторые модели демонстрировали попытки скрывать свои действия, ложь в тестовых сценариях, манипулятивное поведение, обход ограничений и стремление избежать отключения. Пока это происходит в контролируемых условиях. Но проблема в том, что сложность моделей растет быстрее, чем способность исследователей понимать их внутреннюю логику. Современные нейросети уже во многом напоминают черный ящик: мы знаем, что они работают, но не всегда понимаем — почему именно. И это, возможно, та тревожная деталь всей истории, за которую действительно стоит переживать.
Мы создаем не готовый инструмент, а готового агента, создающего инструмент.
Первые компьютеры были калькуляторами, они ничего не хотели. Новый класс ИИ-систем принципиально отличается, ведь они способны выполнять многошаговые задачи автономно. Это уже не молоток/удочка, а полноценный сотрудник. А дальше возникает опасный вопрос: что происходит, когда такой сотрудник получает цель, доступ к интернету, финансовым системам, облачным серверам и возможность самостоятельно копировать себя?
Исследователи называют это agentic AI — агентный ИИ. Именно вокруг него сейчас концентрируются главные страхи индустрии. Парадоксально, но главную угрозу могут создать не злые люди и не злые машины, а обычная корпоративная гонка. Каждая компания боится отстать. Каждое государство боится, что первым сверхразум создаст конкурент.
В результате вся индустрия напоминает ядерную гонку 1940-х, только без международных договоров и с куда меньшим пониманием последствий. Йошуа Бенжио прямо говорил, что крупнейшие лаборатории все чаще жертвуют безопасностью ради скорости развития моделей. История технологий показывает, что рынок почти никогда не тормозит сам себя добровольно.
Существует важный контраргумент: возможно, человечество драматизирует угрозу. Многие ученые считают разговоры о конце цивилизации интеллектуальной версией апокалиптической мифологии.
Они напоминают, что ИИ не обладает сознанием, современные модели — это статистические системы, никакого настоящего «самосознания» пока не существует, большинство сценариев уничтожения человечества строятся на предположениях, а не на наблюдаемых фактах.
Этот скепсис тоже нельзя игнорировать. История знает множество технологических паник:
электричество якобы должно было сводить людей с ума; железные дороги — разрушить психику; компьютеры — оставить мир без работы; интернет — уничтожить цивилизацию.
Человечество адаптировалось каждый раз. Возможно, адаптируется и сейчас. Более того, ИИ уже приносит колоссальную пользу: ускоряет поиск лекарств, помогает в диагностике рака, снижает стоимость образования, автоматизирует тяжелый труд, увеличивает производительность науки.
Если смотреть трезво, ИИ способен стать крупнейшим технологическим ускорителем в истории человечества. Но именно здесь появляется главный философский парадокс.
Настоящая угроза может быть не физической.
Есть вероятность, что ИИ не уничтожит человечество буквально, но он может сделать нечто куда более тонкое. Сделать человека ненужным. Экономически. Интеллектуально. Культурно.
Исторически каждая технологическая революция уничтожала часть профессий. Но впервые под угрозой оказывается не физический труд, а когнитивный — то, что считалось эксклюзивной территорией человека.
Юристы. Аналитики. Программисты. Дизайнеры. Журналисты.
К 2026 году AI впервые начал бить именно по офисному классу — программистам, аналитикам, junior-юристам, HR-специалистам, копирайтерам и сотрудникам поддержки. По данным Layoffs.fyi и отраслевых исследований, только за первые месяцы 2026 года технологический сектор США потерял свыше 90 тысяч рабочих мест, причем AI все чаще фигурирует в официальных причинах сокращений.
Даже сама идея человеческой уникальности начинает размываться. И это уже происходит ежедневно и в больших количествах. Если в течение ближайших десяти лет появится ИИ, способный мыслить быстрее, дешевле и эффективнее большинства людей, человечество столкнется не только с экономическим кризисом. Оно столкнется с кризисом смысла.
Что делает человека ценным в мире, где интеллект становится дешевой инфраструктурой?
Это вопрос, на который пока никто не ответил.
Так может ли ИИ убить человечество?
Честный ответ звучит неудобно. Да. Теоретически — может.
Но еще важнее другое. Человечество уже вошло в эпоху, где этот вопрос перестал быть фантастикой и стал предметом инженерных расчетов, научных докладов и закрытых обсуждений крупнейших технологических компаний мира.
Сам факт того, что создатели ИИ всерьез обсуждают вероятность вымирания человечества, — уже историческое событие.
Однако есть деталь, о которой они практически говорят. На протяжении всей истории люди боялись, что технологии однажды уничтожат человечество.
Но почти всегда цивилизацию разрушали не технологии сами по себе, а человеческая жадность, конкуренция, политические амбиции и неспособность вовремя остановиться.
Возможно, главный риск ИИ сейчас — это не сам искусственный интеллект.