Юваль Ноа Харари утверждает, что ИИ взломал операционную систему человеческой цивилизации
Компьютеры-рассказчики изменят ход человеческой истории, считает историк и философ
Уши искусственного интеллекта ( ии ) преследовали человечество с самого начала компьютерной эры. До сих пор эти опасения были сосредоточены на машинах, использующих физические средства для убийства, порабощения или замены людей. Но за последние пару лет появились новые инструменты искусственного интеллекта , которые угрожают выживанию человеческой цивилизации с неожиданной стороны. ии приобрел замечательные способности манипулировать и генерировать язык, будь то слова, звуки или изображения. таким образом, ии взломал операционную систему нашей цивилизации.
Язык – это материал, из которого состоит почти вся человеческая культура. Права человека, например, не вписаны в нашу днк . Скорее, это культурные артефакты, которые мы создали, рассказывая истории и создавая законы. Боги не являются физической реальностью. Скорее, это культурные артефакты, которые мы создали, изобретая мифы и сочиняя Священные Писания.
Деньги тоже являются культурным артефактом. Банкноты — это просто разноцветные листы бумаги, и в настоящее время более 90% денег — это даже не банкноты, а просто цифровая информация в компьютерах. Ценность денег придают истории, которые нам рассказывают банкиры, министры финансов и гуру криптовалют. Сэм Бэнкман-Фрид, Элизабет Холмс и Берни Мэдофф не особенно умели создавать реальную ценность, но все они были чрезвычайно способными рассказчиками.
Что произойдет, когда нечеловеческий разум станет лучше среднего человека рассказывать истории, сочинять мелодии, рисовать изображения и писать законы и Священные Писания? Когда люди думают о Chat gpt и других новых инструментах искусственного интеллекта , они часто вспоминают примеры, когда школьники используют искусственный интеллект для написания своих эссе. Что произойдет со школьной системой, когда дети сделают это? Но такого рода вопросы упускают из виду общую картину. Забудьте о школьных сочинениях. Подумайте о следующей президентской гонке в Америке в 2024 году и попытайтесь представить себе влияние инструментов искусственного интеллекта , которые можно использовать для массового производства политического контента, фейковых новостей и священных писаний для новых культов.
В последние годы культ q Anon объединился вокруг анонимных онлайн-сообщений, известных как « q drops». Последователи собирали, почитали и интерпретировали эти капли q как священный текст. Хотя, насколько нам известно, все предыдущие выпуски q были составлены людьми, а боты лишь помогали их распространять, в будущем мы можем увидеть первые в истории культы, чьи почитаемые тексты были написаны нечеловеческим разумом. Религии на протяжении всей истории заявляли о нечеловеческом источнике своих священных книг. Вскоре это может стать реальностью.
На более прозаическом уровне мы можем вскоре обнаружить, что ведем длительные онлайн-дискуссии об абортах, изменении климата или российском вторжении на Украину с существами, которые, как мы считаем, являются людьми, но на самом деле являются искусственным интеллектом . Загвоздка в том, что нам совершенно бессмысленно тратить время, пытаясь изменить заявленное мнение ии- бота, в то время как ии может настолько точно отточить свои сообщения, что у него есть хорошие шансы повлиять на нас.
Благодаря своему владению языком ии может даже формировать близкие отношения с людьми и использовать силу близости, чтобы менять наши мнения и мировоззрения. Хотя нет никаких признаков того, что ии обладает каким-либо собственным сознанием или чувствами, для создания ложной близости с людьми достаточно, если ИИ сможет вызвать у них чувство эмоциональной привязанности к нему. В июне 2022 года Блейк Лемуан, инженер Google, публично заявил, что искусственный чат-бот La mda , над которым он работал, стал разумным. Спорное заявление стоило ему работы. Самым интересным в этом эпизоде было не заявление г-на Лемуана, которое, вероятно, было ложным. Скорее, это была его готовность рисковать своей прибыльной работой радичат-бот с искусственным интеллектом . Если ии может влиять на людей, заставляя ради него рисковать своей работой, что еще он может побудить их сделать?
В политической битве за умы и сердца близость — самое эффективное оружие, и ии только что обрел способность массово создавать интимные отношения с миллионами людей. Мы все знаем, что за последнее десятилетие социальные сети стали полем битвы за контроль человеческого внимания. С новым поколением искусственного интеллекта фронт битвы смещается от внимания к близости. Что произойдет с человеческим обществом и человеческой психологией, когда ии сразится с ии в битве за фальсификацию интимных отношений с нами, которые затем можно будет использовать, чтобы убедить нас голосовать за определенных политиков или покупать определенные продукты?
Даже без создания «фальшивой близости» новые инструменты ии окажут огромное влияние на наши мнения и мировоззрение. Люди могут начать использовать одного советника по искусственному интеллекту в качестве универсального, всезнающего оракула. Неудивительно, что Google в ужасе. Зачем искать, если можно просто спросить у оракула? Новостная и рекламная индустрии также должны быть в ужасе. Зачем читать газету, если я могу просто попросить оракула рассказать мне последние новости? И какой смысл в рекламе, когда я могу просто попросить оракула сказать мне, что купить?
И даже эти сценарии не отражают общей картины. То, о чем мы говорим, потенциально является концом человеческой истории. Не конец истории, а просто конец той ее части, где доминирует человек. История — это взаимодействие биологии и культуры; между нашими биологическими потребностями и желаниями в таких вещах, как еда и секс, и нашими культурными творениями, такими как религии и законы. История — это процесс, посредством которого законы и религии формируют еду и секс.
Что произойдет с ходом истории, когда ии возьмет на себя управление культурой и начнет создавать истории, мелодии, законы и религии? Предыдущие инструменты, такие как печатный станок и радио, помогали распространять культурные идеи людей, но они никогда не создавали собственных новых культурных идей. ии принципиально отличается. ии может создавать совершенно новые идеи, совершенно новую культуру.
Поначалу ии , вероятно, будет имитировать человеческие прототипы, на которых он обучался в зачаточном состоянии. Но с каждым годом культура ии смело идет туда, куда еще не ступал ни один человек. На протяжении тысячелетий люди жили во снах других людей. В ближайшие десятилетия мы можем оказаться в мечтах инопланетного разума.
Страх перед ии преследовал человечество лишь последние несколько десятилетий. Но на протяжении тысячелетий людей преследовал гораздо более глубокий страх. Мы всегда ценили способность историй и образов манипулировать нашим разумом и создавать иллюзии. Следовательно, с древних времен люди боялись оказаться в ловушке мира иллюзий.
В 17 веке Рене Декарт опасался, что, возможно, злобный демон заманил его в ловушку мира иллюзий, создавая все, что он видел и слышал. В Древней Греции Платон рассказал знаменитую Аллегорию Пещеры, в которой группа людей всю жизнь прикована цепями внутри пещеры, лицом к глухой стене. Экран. На этом экране они видят проецируемые различные тени. Заключенные принимают иллюзии, которые они там видят, за реальность.
В древней Индии буддийские и индуистские мудрецы указывали, что все люди живут в ловушке внутри Майи — мира иллюзий. То, что мы обычно считаем реальностью, часто оказывается всего лишь вымыслом в нашем собственном сознании. Люди могут вести целые войны, убивая других и готовы быть убитыми сами из-за своей веры в ту или иную иллюзию.
Революция искусственного интеллекта ставит нас лицом к лицу с демоном Декарта, с пещерой Платона, с майя . Если мы не будем осторожны, мы можем оказаться в ловушке за завесой иллюзий, которую мы не сможем оторвать — или даже осознать, что она там.
Конечно, новую мощь ии можно использовать и в добрых целях. Я не буду на этом останавливаться, потому что люди, занимающиеся разработкой ии , об этом достаточно говорят. Задача таких историков и философов, как я, — указать на опасности. Но, конечно, ии может помочь нам бесчисленными способами: от поиска новых лекарств от рака до поиска решений экологического кризиса. Вопрос, с которым мы сталкиваемся, заключается в том, как обеспечить, чтобы новые инструменты ии использовались во благо, а не во вред. Для этого нам сначала нужно оценить истинные возможности этих инструментов.
С 1945 года мы знали, что ядерные технологии могут генерировать дешевую энергию на благо человечества, но также могут физически уничтожить человеческую цивилизацию. Поэтому мы изменили весь международный порядок, чтобы защитить человечество и обеспечить использование ядерных технологий прежде всего во благо. Теперь нам предстоит столкнуться с новым оружием массового уничтожения, которое может уничтожить наш ментальный и социальный мир.
Мы все еще можем регулировать новые инструменты искусственного интеллекта , но мы должны действовать быстро. В то время как ядерное оружие не может изобрести более мощное ядерное оружие, ии может сделать ии экспоненциально более мощным . Первым важным шагом является требование строгих проверок безопасности, прежде чем мощные инструменты искусственного интеллекта станут достоянием общественности. Точно так же, как фармацевтическая компания не может выпускать новые лекарства до того, как проверит их краткосрочные и долгосрочные побочные эффекты, так и технологические компании не должны выпускать новые инструменты искусственного интеллекта , пока они не станут безопасными. Нам нужен аналог Управления по санитарному надзору за качеством пищевых продуктов и медикаментов для новых технологий, и он нужен нам еще вчера.
Не приведет ли замедление публичного внедрения ии к отставанию демократий от более безжалостных авторитарных режимов? Как раз наоборот. Нерегулируемое внедрение ии создаст социальный хаос, который принесет пользу автократам и разрушит демократию. Демократия — это разговор, а разговоры основаны на языке. Когда ии взломает язык, он может лишить нас возможности вести осмысленные разговоры, тем самым разрушая демократию.
Мы только что столкнулись с инопланетным разумом здесь, на Земле. Мы мало что знаем об этом, кроме того, что это может уничтожить нашу цивилизацию. Мы должны положить конец безответственному использованию инструментов ии в общественной сфере и регулировать ии до того, как он начнет регулировать нас. И первое правило, которое я бы предложил, — это сделать обязательным для ии раскрывать информацию о том, что он является ии . Если я разговариваю с кем-то и не могу сказать, человек это или ИИ — это конец демократии.
Этот текст был создан человеком.
Юваль Ноа Харари — историк, философ и автор книг «Sapiens», «Homo Deus» и детского сериала «Нас неудержимых». Он преподает на историческом факультете Еврейского университета в Иерусалиме и сооснователь компании Sapienship, занимающейся социальным воздействием.
Эта статья появилась в разделе «По приглашению» печатного издания под заголовком «Юваль Ной Харари утверждает, что ИИ взломал операционную систему человеческой цивилизации».
https://www.economist.com/by-invitation/2023/04/28/yuval-noah-harari-argues-that-ai-has-hacked-the-operating-system-of-human-civilisation