AGI может «навсегда уничтожить человечество»
«Безудержный энтузиазм» в отношении технологий искусственного интеллекта не демонстрирует признаков замедления... но какой ценой?
В апреле британская исследовательская лаборатория искусственного интеллекта DeepMind опубликовала 145-страничный доклад, в котором предупреждается, что AGI — искусственный общий интеллект, способный выполнять любые концептуальные задачи на уровне человека или лучше, — это не далёкая фантастическая концепция, а реальность ближайшего будущего. Согласно публикации Fortune от 5 апреля, такой интеллект может появиться уже «к 2030 году» и «может навсегда уничтожить человечество».
Однако причина не в том, что роботы по своей сути злы.
Причина заключается в том, что люди, которые их создают, спешат с разработкой и ставят собственные амбиции выше ответственности. В докладе подчёркивается отсутствие систем «предотвращения злоупотреблений» и «мониторинга безопасности», которые должны бы регулировать процесс разработки AGI.
Это происходит потому, что люди, создающие эти технологии, спешат с разработкой и ставят собственные амбиции выше принципов ответственности. В докладе подчёркивается отсутствие систем «предотвращения злоупотреблений» и «мониторинга безопасности», которые должны бы контролировать процесс разработки AGI.
Этот вывод подтверждается материалом CNN от 14 мая: «Исследования в области искусственного интеллекта отходят на второй план перед погоней за прибылью, поскольку Кремниевая долина ставит коммерческие продукты выше безопасности, утверждают эксперты».
В этом контексте в майском выпуске Socionomist за 2025 год статья Чака Томпсона «Хорошие технологии/Плохие технологии: социальное настроение управляет интенсивностью и характером технологического развития» выделяет единственный наиболее важный индикатор того, как технологии будут влиять на наше коллективное будущее. Из отчёта Томпсона:
Технологии: помощник или инструмент доминирования?
В декабрьском выпуске The Socionomist за 2014 год было отмечено, что именно социальное настроение определяет, как люди реагируют на технологические разработки. Если настроение положительное, то исследователи и общество, как правило, настроены с уверенностью и оптимизмом в отношении будущего, что приводит к созданию технологий, которые улучшают их жизнь, повышая уровень благосостояния и комфорта. Если же настроение отрицательное, то исследователи и общество склонны к страху и пессимизму в отношении будущего, что приводит к созданию технологий, ориентированных на доминирование и выживание, таких как оружие.
Следует, конечно, признать, что не все современные технологические разработки направлены на улучшение жизни людей. Как показано на Рисунке 4, Россия и Украина находятся в долгосрочных медвежьих трендах. Эти две страны уже три года находятся в состоянии войны и направили свои инновационные усилия на создание более совершенного оружия.
В майском выпуске The Socionomist за 2025 год полная статья «Хорошие технологии/Плохие технологии: социальное настроение управляет интенсивностью и характером технологического развития» — а также глубокое исследование о том, как социальное настроение позволило развернуться одному из самых ужасных периодов в истории Южной Америки: «Операция «Кондор».