Одно сплошное телевидение (Часть 1)
Тема внедрения технологий искусственного интеллекта в повседневность не сбавляет оборотов. Так, например, все госкомпании должны с этого года заложить планы по внедрению решений с использованием искусственного интеллекта и в дальнейшем отчитываться об их исполнении. Вендоры гаджетов наперегонки анонсируют использовании технологий ИИ (Samsung, вот, уже выкатил на рынок экземпляр). Новости пестрят сообщениями от “внезапно выяснилось, что иллюстратор использовал изображения сгенерированные ИИ” до “чиновник озвучил планы передачи функции проверки домашних заданий искусственному интеллекту”.
Из всего мутного потока новостей можно сделать два вывода. Первый: технологии искусственного интеллекта уже являются неотъемлемой частью нашей жизни (в самом деле, много ли таких, кто не пользуется смартфоном или хотя бы не забивает запрос в поисковую строку браузера?). Второй: вокруг пресловутой “технологии” хайп не утихает. И, как всегда в таких случаях, тревожные или просто увлечённые технологиями обыватели рисуют полярные картинки будущего не много не мало, а всего человечества. Начиная от “все мы умрём”, заканчивая “не умрём, но определённо будем жить в утопии”.
Один мой замечательный товарищ выдвинул гипотезу, что будущая человеческая раса под влиянием технологии ИИ разделится на две расы, которые он назвал “кентаврами” и “минотаврами”. “Минотавры” — это обыватели, которые целиком и полностью будут зависеть от внешних подсказок от всевозможных гаджетов, систем и т.п. на искусственном интеллекте. Их жизнь — короткая, бессмысленная, но наполненная до краёв дешёвым дофамином. Другими словами, что-то вроде того, что обещал Хаксли в “дивном новом мире”, только роль сомы будет выполнять условный гаджет. “Кентавры” наоборот думают своей головой, решают сложные задачи, но жизнь их по прежнему полна страданий, осознание которых компенсируется гордостью за несомую ответственность за всё человечество. Своего рода каста философов из “Государства” Платона.
Собственно, большинство страхов, порождённых с одной стороной осознанием неизбежности будущих технологических изменений нашей жизни, и неизвестностью их результатов с другой связаны с тем, каково будет жить в таком новом мире.
Мы полагаем, что все расхожие картинки нового мира — это ерунда. И говорить будем о том, почему мы так полагаем. Но, прежде чем переходить к рассуждению, определим предмет рассуждений.
Мы рассуждаем об искусственном интеллекте как технологическом средстве описания реальности, и, как следствие, прогнозирования будущих состояний этой реальности. Что, наконец, даёт возможность, используя это средство, получать советы: что и как должно быть в будущем наилучшим образом. Другими словами, даёт нам возможность переложить на него принятие тех или иных решений, не задумываясь об этом самим. Такая вот удобная штука, которая вызывает столько восторгов и тревог.
Многомерная реальность
Начнём с того, как предстаёт перед нами реальность. Мы об этом уже говорили ранее, но здесь не лишним будет повторить.
Представим себе, что мы не знаем никаких названий, никаких слов, у нас нет никаких понятий. Наш мозг — как tabula rasa. Мы можем только инстинктивно реагировать на какие-то образы, заложенные эволюцией в нашу лимбическую систему (а такие образы есть, кому очень интересно, советуем книгу Джордана Питерсона “Карты смысла и архитектура верования”, в ней подробно описаны результаты научных исследований на этот счёт). Таких “предустановленных” в нашу природу образов совсем немного. Скажем, выглянув в окно своей городской квартиры, вы вряд ли увидите змею или большую пятнистую кошку. А открыв его, навряд ли обязательно услышите детский плач или львиный рык. Скорее всего, если в таком “очищенном” состоянии вы столкнётесь с внешним миром, то вы столкнётесь с чистым хаосом. Хаосом звуков, цветовых пятен, запахов. И вряд ли это вам понравится, потому что всё это будет непонятно, и непонятно страшно. А неизвестность мы не любим, мы от неё страдаем. Мы инстинктивно захотим в этом хаосе разобраться. Мы и разбираемся. Как мы это делаем?
Мы напрягаем собственный рассудок и начинам абстрагировать из этого хаоса какие-то категории. Да, абстрагирование — это изначально присущая человеку способность. Что это такое? Это способность выявить в наблюдаемом существенные (как нам кажется) черты реальности, обозначить их для себя как постоянные, а все остальные — отбросить как второстепенные.
Например, мы видим рассыпанные под деревом апельсины. Апельсин сам по себе достаточно сложная штука. По апельсинам можно научную монографию написать. Но мы отмечаем несколько базовых его свойств: круглость, оранжевый цвет и характерный запах. И говорим себе: “Ага, круглое, оранжевое с характерным запахом назовём апельсином. И впредь такие явления реальности будем так называть”. Теперь, увидев в хаосе цветовых пятен что-то круглое, оранжевое мы будем относиться к этому спокойно — это апельсин, что тут непонятного? Всё понятно, изучаем мир дальше.
В приведённом примере из всего хаоса мы абстрагировали вещь. Далее мы можем замечать другие вещи и находить связи между ними. Например, мы можем точно так же абстрагировать ветку апельсинового дерева, связать её с растущим на ней апельсином и назвать эту композицию “апельсин, висящий на ветке дерева”. Так, постепенно, мы можем сформировать целую картину мира — из вещей и связей между ними.
Но это не единственный способ познания реальности. Мы можем абстрагировать из хаоса совсем другого рода явления и далее их использовать как структурные элементы картины.
Скажем, глядя на хаос, мы не можем не обратить внимания на его динамичность. Мир кругом не просто пятна, а пятна движущиеся, переливающиеся, одни пятна переходят в другие и так далее. И, если движение привлекает нас больше недвижимого, то мы можем сделать его базовой единицей своей картины мира. И тогда наша картина мира будет состоять не из вещей, связанных как-то между собой, а из связей, который будут стыковаться через вещи.
Как будто бы одно и то же, но нет. Если в первом случае у нас в приоритете вещи, то в другом — связи. Главное и второстепенное поменялись местами. И описывая одну и ту же реальность мы можем описать её совершенно непохожими друг на друга способами. То есть в первом случае картина приобретает ясность на вещах, даже если на какие-то связи между ними мы не обратили внимание. А во-втором, картина может быть ясной и понятной без важных в первой вещей. Ну вот представим себе детскую площадку с играющими на ней детьми. Дети бегают, кричат, за ними наблюдают и волнуются родители, кто-то плачет, кто-то смеётся, кто-то дерётся, словом — шум, гам, красота.
Первая картина мира будет строиться на понятиях: “площадка”, “дети”, “родители”, “игрушки” и так по порядку. Потом мы будем давать уже не столь существенные для понимания картины уточнения: кто с кем почему.
Вторая картина мира будет строиться совсем по-другому: “бег”, “игра”, “крик”, “смех”, “противоборство”. А в качество уточнений будут уже “площадка”, “дети” и далее.
Обладателям приведённых разных подходов непросто будет понять друг друга с полуслова. А поняв, им придётся ещё долго удивляться “нелогичности”, “странности” друг друга. Хотя казалось бы: смотрят на одно и то же, и описывают в точности одно и то же. Но по-разному.
Более того, картины не просто будут выглядеть по-разному, но, поскольку люди ленивы, и отмечают самое важное и характерное, то, что обязательно будет в одной картине, будет отсутствовать во второй и наоборот. Скажем, обладатель первой картины обязательно может обратить на голубые глаза какой-то девочки и включить их как характерный элемент всей картины. А другой на эти глаза внимания вообще не обратит, потому что они не будут играть существенной роли в происходящем действии. Зато он обратит внимание на то, как какой-то мальчик “стреляет глазами” в сторону этой девочки, и сочтёт это важным для понимания картины элементом.
Есть ещё и другие способы “упорядочивания хаоса”. Например, когда за базовые элементы картины берутся не вещи или действия, а множества вещей и определённые их спецификой отношения между ними. И тогда картина предстаёт перед умом её обладателя как множество пересекающихся, включающих друг в друга и взаимодействующих множеств или классов объектов.
Приведённые три примера упорядочивания хаоса реальности (на вещах, на связях и на множествах) взяты не с потолка. Это характерные парадигмы христианской, арабской и буддийской картин мира соответственно. Не удивительно, что в европейской литературе встречаются обвинения арабской культуры в “неспособности к логическому мышлению”, а буддисты представляются в виде сомнамбулических бритых монахов, общающихся между собой туманными метафорами. Хотя последовательности в рассуждениях, цельности, логики и смысла достаточно и там, и там, и там. Просто на один и тот же мир они смотрят, расставляя по-разному акценты.
Во-первых, описание мира в разных парадигмах может давать не только разные, но и непохожие описания одного и того же.
Во-вторых, описание в одной парадигме может не включать, а зачастую и не может включить в себя какие-то сегменты реальности, которые включены в другую.
Другими словами, наш промежуточный итог рассуждения звучит так: описание реальности в отдельной парадигме почти всегда ущербно в сравнении с самой реальностью.
Почему почти? Потому что теоретически (“в пределе”, как говорят в математике) картину мира можно описать достаточно исчерпывающе в одной отдельно взятой парадигме. Но сделать это или очень сложно для автора (надо обладать поистине уникальной способностью передавать языком не свойственные ему образы) или очень сложно для слушателя/читателя (с ума сойдёшь, вникая в бесконечные уточнения, новые термины, оговорки и так далее). Сложность для слушателя представить не сложно: мы прямо сейчас её испытываем. Только при попытке досконального описания реальности она несоизмеримо выше.
Кстати, раз речь зашла о языке.
Язык
Язык в значительной степени диктует парадигму описания мира. В научном мире данное утверждение известно под названием “Гипотеза Сепира-Уорфа”. Эдвард Сепир к этой гипотезе имеет отношение только в том смысле, что Бенджамин Ли Уорф у него учился, сама же мысль Уорфа, сформулированная аж в первой половине ХХ века, дословно звучит так (перевод взят из книги Пола Фейерабенда): “основа лингвистической системы (иными словами, грамматика) каждого языка есть не только система воспроизведения произносимых мыслей, она скорее представляет собой формообразующую основу мыслей, программу и руководства для мыслительной активности индивида, для анализа им впечатлений, для синтеза мыслительных схем деятельности”.
Как это водилось в то время, научный мир (значительно более тесный и компактный, нежели сегодня) бегал с этой мыслью как с откровением. Потом маятник качнулся в другую сторону: появилось много критики к утверждению, что “язык определяет мышление”. Однако критика сводилась к двум пунктам: а) пониманию того, что называют “мышлением” и б) характера собственно связи языка и когнитивной деятельности. Собственно связь никем серьёзно не оспаривается, да и не может, поскольку это факт, подтверждённый в том числе экспериментально.
Итак, язык влияет на парадигму описания мира хотя бы потому, что парадигма является продуктом “когнитивной деятельности человека”. И влияет существенно.
Парадигма же, в свою очередь, в то же время и в той же степени, соответственно влияет на формирование и развитие языка. Поэтому, в том числе, возникают пресловутые “сложности перевода”. Академик А.В. Смирнов, который переживал сложные 90-е за счёт переводов с арабского на русский и обратно (в том числе синхронных), сразу обратил внимание на разницу, как он говорил, “смыслообразования” арабского и европейского миров. И серьёзно заинтересовался природой собственно смысла: раз прямой перевод или неполон, или вовсе бессмысленнен, то, как он тогда осуществляется? Переводчик, слыша фразу на чужом языке воспринимает её смысл (что бы под ним не понимали), а затем уже переводит именно пойманный смысл, а не собственно исходную фразу на родной язык. Если он поступает иначе, то вместо перевода зачастую получается полная ерунда (с точки зрения оригинала, естественно). Это не означает, что язык жёстко привязан к своей культурной парадигме. Язык большой культуры инструмент гибкий, позволяющий описывать реальность в самых разных парадигмах. Но не во всех одинаково хорошо.
Но что является свойством языка, как инструмента, не обязательно является свойством субъекта, этот инструмент использующего. Человек (не обязательно homo homanum из нашего предыдущего разговора, но и обыватель) способен “схватывать” понимание реальности помимо языка. Происходит это, как правило, неосознанно, зачастую тогда, когда владелец сознания находится в полной уверенности, что он вообще не думает.
Менделеев придумал свою периодическую таблицу элементов во сне не потому, что кто-то потусторонний её туда ему поместил, а потому что его мозг о ней “думал” в фоновом режиме помимо осознанной воли его обладателя (даже если Менделеев на самом деле придумал свою таблицу не во сне, пример всё равно имеет право на существование, поскольку феномен “проснулся утром с озарением” широко распространён и известен почти каждому на собственном опыте). Как это происходит с точки зрения нейробиологии — посмотрите по ключевым словам “нейронная сеть оперативного покоя” в браузере.
Но этот феномен может проявляться и спонтанно в режиме активного бодрствования. Тогда мы его замечаем не столько потому, что сделали какое-то прямо открытие, сколько по затруднениям, которые испытываем в подборе слов для выражения того “ясного-понятного”, что только что поняли или придумали. Полагаем, чувство знакомое, каждый не раз чувствовал себя собакой, которая “всё понимает, а сказать не может”.
Эта человеческая способность, — осмысливать реальность в независимости от привычной парадигмы мышления, — является залогом адаптивности человечества изменчивому миру, а значит, выживания в самых разных условиях. Есть основания думать, что это один из тех столпов, которым человечество обязано своему вездесущему присутствию на Земле и чудесной способности адаптации к чему угодно. Скажем, в материковой части Антарктиды кроме человека не живёт никто. Совсем никто. А человек вполне себе, и местами совсем неплохо. Вот задумайтесь: настоящее же чудо.
Но давно и не единожды замечено, что единичный человек умнее компании. А толпа, та и вовсе глупа как пробка (даже если состоит из представителей с уровнем интеллекта сильно выше среднего). Поэтому для любой компании, шире — организации, ещё шире — социума формулируются правила. Предполагается, что в относительно стабильных внешних условиях можно подобрать конечное количество простых и понятных правил поведения и мышления, которых будет достаточно для успешной жизнедеятельности. И это действительно почти так, если нет необходимости делать что-то экстраординарное. Почему почти? Потому что внешние (для человека и социума) обстоятельства никогда не бывают совсем стабильными. Изменения нагоняют, иногда стремительно, и иногда довольно существенные. И тогда система из человеков выживает не только за счёт строгого соблюдения плавил, но и за счёт их сознательного, как правило парадоксального нарушения.
Заметим, что парадоксального — как правило. Задним умом почти каждый может объяснить как и почему он что-то придумал, или что-то сделал. Но, если положит руку на сердце, почти каждый же признается, что объяснить он, конечно, может, но как оно было на самом деле, ему самому не известно. Просто “пришло в голову” и всё тут, а как пришло — Бог его знает.
Скажем больше. Строгое выполнение правил заводит систему в тупик. За примером далеко ходить не надо. Что такое “итальянская забастовка”? Это строгое выполнение правил: ни шага в сторону.
Правила нарушают не все. Убирая за скобки мотивацию хулиганистого характера, их нарушают, как правила люди, обладающие одновременно несколькими важными качествами: интеллектом выше среднего, смелостью, иногда граничащей с авантюризмом и, наконец, умением брать и затем нести ответственность. Собственно говоря, это те самые спасители рода человеческого. Достаточно часто встречающиеся, чтобы не являться какой-то уж редкостью, но достаточно редко, чтобы выделяться на общем фоне белыми воронами.
Без введения системы правил система из человеков стремительно превращается в хаос. А со строгим их соблюдением делает то же самое, но не столь стремительно.
И вот теперь можно перейти, собственно, к тебе нашего разговора: к перспективам искусственного интеллекта и его влиянием на будущее человечества.