Вести из параллельной вселенной: мягкая сингулярность Сэма Альтмана уже наступила

Сэм Альтман — глава OpenAI и один из главных идеологов искусственного интеллекта — написал статью о «мягкой сингулярности». В ней он дает утешительный прогноз: никакого апокалипсиса, только плавный переход в эру, где ИИ служит человечеству как послушный и умный помощник. Но если присмотреться повнимательнее, в этой картине обнаруживаются трещины.

Мягкая сингулярность Сэма Альтмана

Главная мысль Альтмана звучит почти романтично: сингулярность уже наступила, просто она мягкая, почти незаметная.

Вот прогноз, на основе которого он делает выводы:

2025 год — ИИ‑агенты, выполняющие «реальную когнитивную работу» (код, анализ и т. д.);
2026 год — ИИ, способный делать новые научные открытия/инсайты: Альтман пишет, что это может произойти уже в следующем году ;
2027 год — полноценная роботизация «реального мира» — автономные машины станут частью инфраструктуры .

Мы, по мнению Альтмана, уже внутри этой новой реальности — вошли в нее тихо, как в туманное утро, и даже не поняли, что это она. ИИ работает в нашей повседневной жизни, помогает нам писать, думать, переводить, считать. Всё стало происходить быстрее, и всё это, вроде бы, во благо.

Но в этой интерпретации есть ловкая подмена понятий: ведь классическая сингулярность — это гипотетический момент в будущем, когда искусственный интеллект (ИИ) достигнет такого уровня развития, что превзойдет человеческий разум и начнет самосовершенствоваться без нашего участия. В какой-то момент этот процесс ускорится настолько, что люди уже не могут ни предсказать, ни контролировать, что будет дальше. Это не постепенная замена Excel на GPT, а нечто принципиально иное, с куда менее предсказуемыми последствиями. Мы, конечно, чувствуем перемены, но пока ИИ — это просто мощный инструмент. Сказать, что мы уже “там”, — значит сильно поторопиться.

Если сегодняшний ИИ — это продвинутый калькулятор, то после наступления сингулярности он станет чем-то вроде «бога» — сущностью, чьи мотивы и возможности мы даже не сможем до конца понять.

Сингулярность — не просто фантастика. Если она наступит, она изменит все: экономику, власть, даже саму природу человека. Вот почему некоторые знающие люди (как Илон Маск) ее боятся, хотя продолжают совершенствовать свой ИИ.

Все решат доступные интеллект и энергия

Одной из центральных идей Альтмана становится вера в изобилие. Он уверяет, что в ближайшем будущем интеллект и энергия станут почти бесплатными — настолько доступными, что превратятся в новые базовые ресурсы, как воздух или электричество. Прямо таки светлый техно-коммунизм: каждый получит не только по потребностям, но и по умственным задачам.

Вот только история с дешевыми технологиями учит нас обратному. Интернет тоже стал почти бесплатным, но вместо равенства дал нам всплеск дезинформации, травлю и цифровую бедность. Альтман, как инженер, верит, что все можно починить технологиями. Но забывает, что доступ — это всегда вопрос власти. Кто контролирует дешевый интеллект? Кто владеет серверами, патентами, вычислительной мощностью? Пока доступ к мощному ИИ — это привилегия компаний с миллиардными инвестициями, говорить о равенстве просто преждевременно.

ИИ нас усилит?

Не менее наивно звучит тезис о том, что ИИ не заменит нас, а усилит. Это тот самый старый добрый нарратив о "помощнике", который освободит нас от рутины и позволит заняться творчеством.

Давайте честно: уже сегодня ИИ вымывает профессии. Контент-менеджеры, переводчики, дизайнеры, консультанты — тысячи задач этих специалистов отдаются ИИ, и далеко не всегда на выходе рождается «усиление человека». Скорее, это превращение креативного труда в механическую подработку с алгоритмической начинкой. Более того, мы еще не осознали, как постоянное сравнение с ИИ влияет на нашу самооценку. Как жить и творить, если машина пишет «лучше» — быстрее, дешевле и в четыре клика? Это уже не вопрос экономики. Это вызов самой человеческой психике.

Выравнивание (alignment) целей человека и ИИ

Альтман, как и многие в Кремниевой долине, с надеждой смотрит на проблему alignment (у этого слова много значений) — то есть на возможность согласовать цели ИИ и человека. Он считает, что если мы научим ИИ “хотеть” того же, чего хотим мы, все будет в порядке. Но он почти не говорит о том, что именно мы хотим. Чьи ценности закладывать в ИИ? Американские? Китайские? Ценности белого воротничка из Кремниевой долины или рабочего с завода в Индии? Это не вопрос инженерии, это вопрос политики, культуры, философии. Невозможно написать универсальный код добра — просто потому, что у нас нет универсального представления о добре. И если Альтман мечтает решить проблему ценностей кодом, то он рискует повторить ошибку всех технократов: поверить, что сложные социальные конфликты можно устранить математикой.

В статье много исторических параллелей. Он, например, сравнивает нынешнюю трансформацию с индустриальной революцией XIX века. Мол, тогда тоже все рушилось и строилось заново, но люди справились — и сейчас справятся. Это красивая аналогия, но неточная. Тогда машины заменили физический труд. Сегодня ИИ заменяет умственный труд, нашу способность анализировать, создавать, интерпретировать. Это глубже. Кроме того, индустриальная революция растянулась на десятилетия, у людей было время адаптироваться. Сегодня перемены происходят за пару лет — и кажутся лавиной, не эволюцией.

В чем Альтман, возможно, прав

Тем не менее, в словах Альтмана есть и правда. Он прав в том, что сейчас решается будущее. Мы действительно стоим на границе чего-то большого. Он верно поднимает вопросы о равноправном доступе, о необходимости создания ИИ, который будет ориентироваться на благо человека. И, пожалуй, главная ценность его статьи — в попытке говорить об этих вещах открыто и спокойно, без паники и алармизма. Нам действительно стоит быть готовыми — не к войне с машинами, а к жизни с ними. Это новая реальность, и игнорировать ее глупо.

Нужно готовиться

Слепо доверять технооптимистам вроде Альтмана — тоже не выход. Его взгляд — это взгляд человека, стоящего у руля крупнейшей ИИ-компании, заинтересованного в том, чтобы мир увидел в ИИ не угрозу, а продукт, партнера, помощника. Он хочет сделать переход в сингулярность безболезненным — и это достойное желание. Но реальность сложнее. Технологии не нейтральны. Они отражают цели и интересы тех, кто их создает. А значит, мягкой эта сингулярность будет ровно настолько, насколько мы сами будем к ней готовы — интеллектуально, культурно, эмоционально и политически.

ИИ не станет богом. Но может стать зеркалом — и не факт, что нам понравится отражение.