«Нас переживут крысы. Они построят свою цивилизацию и будут учиться на наших ошибках»
Новый спич израильского историка на Всемирном экономическом форуме в Давосе предсказуемо расколол аудиторию
Всемирный экономический форум в швейцарском Давосе, проходивший с 21 по 24 января, посетили около 5 тысяч чиновников, бизнесменов и общественных деятелей из 117 стран мира. Среди его участников – и президент США, и Грета Тунберг. Это не случайно: по словам основателя форума Клауса Шваба, именно экологическая тема превалирует в повестке ВЭФ. Эту же тему – хотя и с технологическим уклоном – поднял в своей блестящей и эмоциональной речи популярный израильский историк и футуролог Юваль Ной Харари.
По мере того, как мы вступаем в третье десятилетие XXI века, перед нами встает еще больше вопросов и проблем. Сложно даже осознать, на каких из них стоит сфокусироваться в первую очередь. Я бы предложил сосредоточиться на трех проблемах, которые представляют экзистенциальную угрозу для человечества. Это ядерная война, экологическая катастрофа и технологический крах. С первыми двумя мы более-менее знакомы, поэтому подробнее остановлюсь на третьей.
Здесь, в Давосе, мы часто говорим о многообещающих технологиях, но они также могут разрушить человеческое общество и подорвать существование жизни на планете – причем разными способами: от создания класса «бесполезных людей» до установления информационного колониализма и цифровых диктатур.
Бесполезные люди
Автоматизация скоро лишит миллионы людей работы, сделав их бесполезными. Пока что непонятно, насколько быстро они смогут получить новые навыки, чтобы быть востребованными на рынке труда. И людям придется переизобретать себя не единожды, а постоянно – чтобы оставаться на плаву. ИИ-революция будет не единичным крупным явлением, после которого рынок труда сможет восстановиться, – это будет целый каскад все более и более крупных проблем. Если раньше люди сражались против эксплуатации, то теперь им придется бороться со своей невостребованностью – а быть нерелевантным на рынке труда куда хуже, чем быть эксплуатируемым.
Те, кто в этой битве проиграет, и составят новый класс «бесполезных людей» – не с точки зрения их друзей и близких, а с точки зрения экономической и политической системы. Разрыв между этим классом и наращивающей мощь элитой будет увеличиваться. ИИ-революция создаст беспрецедентное неравенство не только между классами, но и между странами.
Гонка ИИ-вооружений уже в полном разгаре, и впереди – США и Китай. Если мы не вмешаемся и не начнем равномерно распределять все преимущества ИИ, он обогатит высокотехнологичные компании – в то время как целые страны станут банкротами или информационными колониями.
Сейчас мы говорим не о каком-то научно-фантастическом сценарии, согласно которому роботы восстанут против людей. Куда более примитивный ИИ сможет разрушить мировой баланс. Подумайте, например, что случится с развивающимися экономиками, когда производить текстиль будет дешевле в Калифорнии, чем в Мексике? А как будет выглядеть политика вашей страны, если кому-то из Сан-Франциско или Пекина будет известна вся медицинская и личная история каждого политика, судьи или журналиста в вашей стране – все их сексуальные эскапады, коррупционные сделки и так далее? Будет ли она независимой или превратится в информационную колонию?
Цифровая диктатура
Еще одна серьезная опасность – расцвет цифровой диктатуры. Огромные познания в биологии, умноженные на вычислительную мощь современных компьютеров и массивы данных о людях, приведут к тому, что нас можно будет «взламывать». Если вы «хакнете» меня, мой мозг, у вас появится знания обо мне, моих вкусах, слабостях и так далее – по сути, вы будете знать меня лучше, чем я сам. Система, которая понимает нас лучше, чем мы сами, сможет предсказывать наши чувства и решения – и манипулировать ими. А затем и принимать эти решения за нас.
И в прошлом многие правительства и тираны хотели бы добиться такого, но ни у гестапо, ни у КГБ не было ни таких знаний, ни такой вычислительной мощи. Теперь же некоторые корпорации вполне могут позволить взламывать людей. Мы же, люди, должны свыкнуться с мыслью о том, что мы больше не таинственные души, а животные, которых можно взломать. Способность взлома можно поставить на службу людям – улучшить, например, здравоохранение. Но если она попадет в руки очередному Сталину, результатом станет худший тоталитарный режим в истории человечества. И у нас уже есть несколько кандидатов на роль Сталина XXI века.
Если мы позволим появиться на свет режимам с тотальным надзором, не думайте, что сильные мира сего будут в безопасности в таких местах, как Давос. Спросите, например, у Джеффа Безоса (недавно в прессу утекли личные фотографии и переписка основателя Amazon). В сталинском СССР государство следило за политической элитой пристальнее, чем за всеми остальными. То же случится и в будущем: чем выше вы в иерархии, тем сильнее контроль за вами. Так что в интересах всех людей, включая элиты, помешать установлению цифровых диктатур.
Власть – алгоритмам
Но даже если мы и предотвратим это, сама возможность взламывать людей подрывает концепцию свободы человека. Люди все больше полагаются на ИИ в принятии решений, и в конце концов власть перейдет к алгоритмам.
Уже сегодня миллиарды людей доверяют алгоритмам Facebook – они советуют нам новости. Алгоритмы Google говорят нам, что правда, а что – нет, алгоритмы Netflix – что смотреть, а алгоритмы Amazon и Alibaba – что покупать. В ближайшем будущем алгоритмы начнут указывать нам, где работать, с кем сочетаться браком, кому стоит давать кредит, а кому – нет, и так далее. Люди не смогут понять, почему компьютер отказал им в кредите, так как у мозга нет соответствующих вычислительных мощностей. Так что даже в предположительно свободных странах люди начнут утрачивать контроль за своей жизнью и понимание публичной политики.
Это происходит уже сейчас. Как много людей способны понять финансовую систему государства? Возможно, 1%, и то – это слишком щедрая цифра. Через пару десятилетий она и вовсе сведется к нулю. Если сейчас мы считаем смыслом жизни принятие решений, то в чем будет ее смысл, когда решения начнут принимать алгоритмы? У нас даже нет философских моделей для осмысления подобного рода существования.
Обычно у философов полно теорий, и это политики объясняют им, почему их идеи нельзя воплотить в жизнь. Сегодня же – все наоборот. Налицо философское банкротство. IT- и биотех-революция дают политикам шанс создать рай (или ад) на земле, но философы пока что не способны описать ни то ни другое. И это очень опасная ситуация. Если у нас не получится довольно оперативно описать то, как должен выглядеть наш новый рай, нас введут в заблуждение с помощью наивных утопий. То же самое и с адом – мы можем оказаться в безвыходном положении.
Умный дизайн жизни
Наконец, технологии могут разрушить не только наши экономику, политику и философию, но и нашу биологию. В ближайшие десятилетия у нас появятся «богоподобные» возможности: создавать новые формы жизни и редактировать уже имеющиеся. Наш «умный дизайн» жизни станет движущей силой эволюции всего живого на Земле – и в то же время позволит нам совершать ошибки космического масштаба. Властям той или иной страны представится шанс создавать целые армии людей с «расширенными» – под их требования – возможностями. И расширяться они будут в ущерб состраданию, духовности, художественной чуткости и так далее. В результате может получиться целая раса сверхумных, но лишенных эмпатии людей.
В XX веке люди использовали промышленные технологии для создания различных обществ – от фашистской диктатуры до либеральной демократии. Подобное может повториться и в этом веке. Чтобы избежать этого, нужна кооперация в глобальном масштабе. Все три глобальные проблемы, которые перед нами стоят, требуют совместно принятого решения. Когда лидер какой-либо страны провозглашает: «Моя страна превыше всего!», ему нужно напомнить, что в одиночку он не сможет противостоять ни ядерной войне, ни экологической катастрофе. И ни одна из наций самостоятельно не сможет регулировать ИИ и биоинженерию.
Любая страна скажет про себя: «Мы – хорошие парни, мы не собираемся разрабатывать роботов-киллеров или ГМО-детей. Но мы же не можем быть уверенными в том, что наши соперники этого не сделают, поэтому мы должны быть в этом первыми». Так что если мы допустим гонку вооружения в ИИ и биоинженерии, на самом деле будет неважно, кто ее выиграет. Проиграет ведь все человечество.
Патриот-глобалист
К несчастью, как только весь мир начинает по-настоящему нуждаться в сотрудничестве, лидеры некоторых могущественных стран намеренно подрывают саму возможность глобальной кооперации. Президент США, к примеру, говорит нам, что между национализмом и глобализмом имеется внутреннее противоречие и что мы должны выбрать национализм.
Это – опасная ошибка. Между национализмом и глобализмом нет никаких противоречий. Национализм не связан с ненавистью к иностранцам. Это – забота о своих соотечественниках. А в XXI веке обеспечение безопасности соотечественников невозможно без сотрудничества с иностранцами. То есть сегодняшний патриот должен быть глобалистом. При этом глобализм не подразумевает установление мирового правительства, отказ от национальных традиций или открытие границ для ничем не ограниченной иммиграции. Напротив, глобализм означает соблюдение некоторых глобальных правил, которые регулируют отношения между нациями.
Хороший пример – чемпионат мира по футболу. С одной стороны, это соревнование между национальными командами, за которых горячо болеют люди. С другой – это прекрасное проявление мировой гармонии. Сборная Франции, к примеру, не сможет сыграть со сборной Хорватии, если они обе не договорятся о единых правилах. Это и есть пример работы глобализма.
Надеюсь, нации смогут договориться об общих правилах не только в отношении футбола, но и для того, чтобы совместно регулировать опасные технологии, уменьшать неравенство и бороться с глобальным потеплением. Да, это будет сложнее, чем с футболом, но это не невозможно.
Уйти из джунглей
Мы уже добились невозможного – вырвались из жестоких джунглей, в которых человечество жило тысячи лет в состоянии непрекращающейся войны. Любые две соседние страны рано или поздно начинали воевать друг с другом, а мир был лишь «временным отсутствием войны». Люди считали это закономерностью. Но в последние десятилетия человечество умудрилось добиться невозможного – прервать этот цикл, вырваться из этих джунглей с их законами. Само определение «мира» изменилось, теперь это – невозможность, неуместность войны. Мы построили мировой порядок, основанный на правилах. Он не идеален, но знаменует собой мир и процветание, каких не знала мировая история.
Есть много стран, которых сегодня просто невозможно представить воюющими друг с другом. Например, Франция и Германия. Тем не менее войны продолжаются, хотя сейчас они убивают людей меньше, чем самоубийства, а порох менее опасен для здоровья, чем сахар. Большинство стран не тешат себя фантазиями – разве что кроме России – об аннексии территории своих соседей. Поэтому они могут позволить себе тратить примерно 2% ВВП на оборону и куда больше – на образование и здравоохранение. Мы ведь больше не в джунглях.
К сожалению, мы настолько уже привыкли к этому, что воспринимаем мир как данность и становимся слишком неосторожными. Вместо того, чтобы бросать все усилия на укрепление хрупкого мирового порядка, страны порой намеренно подрывают его. Сегодня мировой порядок напоминает дом, в котором живут все, но никто не хочет заниматься ремонтом. Так он протянет еще несколько лет, но в конце концов развалится – и мы вновь окажемся в джунглях, в состоянии войны всех против всех. Мы уже забыли, каково это. Но поверьте мне – я ведь историк – вам там не понравится. Это куда хуже, чем вы можете себе вообразить.
Да, наши предки жили в этих джунглях, но у них не было технологий, которые есть у нас сейчас. С этими технологиями мы просто уничтожим друг друга. Впрочем, даже если мы исчезнем с лица Земли, это не означает конец света. Что-то или кто-то нас переживет. Возможно, крысы. Они построят свою цивилизацию и будут учиться на наших ошибках. Поэтому я сейчас обращаюсь к политикам всего мира с надеждой на то, что этого не произойдет.