Джерри Каплан - Людей просим не обращаться

Основные идеи

Роботы и системы искусственного интеллекта (ИИ) несут человечеству революционные перемены, которые могут обернуться очень серьезными проблемами.
Растущие вычислительные мощности, технологии машинного восприятия и машинного обучения открывают новые огромные возможности в информатике и робототехнике.
В будущем человечеству придется решать вопросы моральной и юридической ответственности искусственного интеллекта за результаты его действий.
Возможно, машины – носители ИИ получат статус юридических лиц, что позволит подавать на них в суд и накладывать наказания.
Системы высокочастотного трейдинга зарабатывают на фондовых биржах деньги для своих владельцев, но их работа способна обрушить рынок, как это было в 2010 году.
Технологии, основанные на ИИ, играют все более важную роль в конкурентных битвах современных корпораций.
Развитие высоких технологий грозит еще больше усилить расслоение общества.
Беспрецедентная по масштабу автоматизация приведет к исчезновению целых профессий.
Кредиты на профессиональную переподготовку, предоставляемые работодателями, могли бы помочь работникам приспособиться к стремительно меняющемуся рынку труда.
Государству следует поддерживать компании, акционерами которых являются не горстка миллиардеров, а миллионы простых людей, и сделать инвестирование в их бизнес доступным для всех.

Краткое содержание

Добро пожаловать в будущее!

Будьте осторожны: человечество ждут большие перемены. Мы вступаем в эпоху искусственного интеллекта. В некоторых областях компьютеры и приборы уже превосходят людей. Новое поколение компьютерных систем способно извлекать уроки из опыта и соответствующим образом адаптироваться. Вы слышали об “искусственных рабочих” – сложных и адаптирующихся комплексах из датчиков и механизмов? Они действуют под управлением искусственного интеллекта, воспринимают окружающую среду и ловко справляются с различной физической работой. Эти сложные алгоритмические системы до конца не понятны даже своим создателям. Оперируя невообразимыми объемами данных, они выявляют закономерности, строят прогнозы, принимают решения и осуществляют их.

От игровых задач к когнитивным вычислениям

В 1956 году Джон Маккарти, основатель Стэнфордской лаборатории искусственного интеллекта, Натаниэль Рочестер из IBM и другие ведущие эксперты компьютерной сферы собрались в Дартмутском колледже, чтобы развивать машинный интеллект. Однако их проекты в сфере ИИ были свернуты руководством IBM, поскольку топ-менеджеры фирм-клиентов испугались, что приобретаемые у IBM компьютеры могут оставить их без работы. После этого IBM заверила потребителей, что компьютеры способны лишь на строгое выполнение последовательных инструкций. Это подтолкнуло развитие исследований в сфере ИИ в сторону “структурированного программирования”, когда компьютеры размером с комнату, работая в пошаговом режиме, решали игровые задачи и разгадывали головоломки. В тот период ИИ ассоциировался преимущественно с манипулированием символами, а это было не очень интересно. Недостаток вычислительной мощности ограничивал способность машин преодолеть барьер “комбинаторного взрыва”, возникающего при пошаговом решении сложных задач. Пытаясь обойти это ограничение, исследователи ИИ занялись разработкой экспертных систем на базе эвристического программирования. Также ученые создали машины, в которых множество копий одной программы взаимодействовали между собой, на примитивном уровне имитируя работу нейронов мозга. Постепенно интерес к нейронным сетям угас; возродился он только в начале 1980-х годов, когда были созданы надежные сетевые технологии, а вычислительные мощности стали расти в геометрической прогрессии, что привело к появлению взаимосвязанных мультипроцессорных систем. Они уже не зависели от данных, вводимых людьми, а самостоятельно черпали информацию из Интернета. Среди инноваций того времени был созданный IBM суперкомпьютер Watson, победивший людей в телевикторине “Jeopardy!”. Впрочем, недалек тот день, когда вся вычислительная мощность Watson будет доступна каждому обладателю смартфона.

“Машинное восприятие”

Конечно, Watson не мыслит, как человеческое существо, но способность воспринимать мир через сенсоры и камеры, а также машинное обучение – то есть способность машины к самообучению – сделают роботов более чуткими к потребностям людей. Современные компьютерные системы уже умеют анализировать видео и идентифицировать людей и другие объекты. Их сенсоры не только имитируют наши органы чувств, но и позволяют воспринимать окружающую среду способами, которые нам недоступны. Коммерческие роботы для прополки сорняков и сбора урожая, роботы-грузчики, упаковщики, сварщики выводят эффективность ручного труда на новый уровень. В будущем расширится применение роботов и в других сферах. Так, роботизированные военные машины возьмут на себя функции разведки, обороны и наступления. Беспилотные автомобили, контактирующие друг с другом, будут доставлять вас с работы домой. Высоким спросом будут пользоваться “роботопроститутки”.

“Представьте, какими были бы ваши умственные способности, если бы вы слышали и видели все, что происходит в мире, и могли прочитать все, что было написано человечеством”.

Преимущество электронного интеллекта над человеческим в том, что средства и ресурсы для выполнения задач могут быть представлены в чисто электронном виде, без всякой привязки к конкретной географической точке. Да, сейчас люди преодолевают ограничения “локальности” с помощью телекоммуникационных технологий, но они навсегда останутся биологическими системами, связанными с определенным местом. Машины свободны от этих ограничений. Мы можем представить, как “рой” роботов будет бороться с пожарами, красить дома или поражать врагов отравляющими веществами. Технические устройства будут становиться все более экономичными, многофункциональными и компактными, а часто и вообще практически невидимыми. Подобно тому как Google, Amazon и Facebook заменили собой некогда привычные аспекты нашей повседневной жизни, роботы и ИИ узурпируют все остальные ниши.

Схватки на электронном поле боя

В середине 1980-х годов инвестиционный банк Morgan Stanley нанял специалиста по вычислительным системам Дейва Шоу. Его передовой метод извлечения информации из баз данных, построенный на использовании мультипроцессоров, дал компании огромное преимущество в торговле ценными бумагами. Системы высокочастотного трейдинга (HFT) способны совершать сделки в десятки тысяч раз быстрее, чем человек. Создав собственную инвестиционную компанию D.E. Shaw and Company, Шоу разработал новые методы анализа фондовых рынков, о которых мало что известно. Его системы выявляют мельчайшие кратковременные расхождения в ценах, по которым одна и та же акция торгуется на разных биржах. За доли секунды HFT-программы одновременно покупают эту акцию по наиболее низкой цене и продают ее же по более высокой, зарабатывая на разнице. Некоторые системы анализируют рыночные “настроения”, отыскивая едва заметные мимолетные корреляции между различными ценными бумагами. Системы HFT, с одной стороны, сглаживают колебания рынка, но с другой – усугубляют проблему финансового неравенства. В 2010 году HFT-программы неожиданно громко заявили о себе, сыграв ключевую роль в знаменитом Flash Crash – “мгновенном обвале” американского фондового рынка. К тому времени на их долю уже приходилось до 60% всех биржевых сделок. Шестого мая за несколько минут они обрушили индекс Доу-Джонса более чем на 1000 пунктов, то есть на 9% от уровня открытия. Расследование показало, что толчком для этого обвала стала обычная сделка одного из взаимных фондов, случайно спровоцировавшая бурную реакцию со стороны HFT-программ, которая вылилась в массовое срабатывание ордеров stop-loss (приказов о немедленной продаже с целью ограничения убытков). Таким образом, HFT-системы породили хаос, просто выполняя свои функции.

“Любой из нас рискует оказаться очередной случайной жертвой, погибшей под колесами новых технологий на так называемой информационной супермагистрали”.

В области цифрового маркетинга компании, подобные Rocket Fuel, оцениваемой в два миллиарда долларов, используют ИИ для проведения мгновенных аукционов по продаже рекламных площадей непосредственно в момент, когда страница загружается в браузер пользователя. Веб-страницы содержат уникальные файлы-маркеры куки, и как только они оказываются в вашем устройстве, рекламодатели вступают в ожесточенную борьбу за ваше внимание.

Роботы и моральные принципы

Сегодня общество ожидает соблюдения норм морали не только от людей, но и от организаций. Суды признают компании виновными в преступлениях, как это произошло с BP после аварии в Мексиканском заливе. Если по закону компании несут ответственность за свои деяния, то и искусственного интеллекта это тоже должно касаться. Например, ИИ, являющийся мозгом беспилотного автомобиля, наделяется властью принимать решения, связанные с высшими ценностями, – такие как решение, куда направить автомобиль в случае аварии и, следовательно, кто будет жить, а кто умрет. В будущем тот факт, что автомобиль – неживой объект, не помешает суду привлечь его к ответственности за преступление. Благодаря способности к самообучению робот выявит причинно-следственную связь между проступком и наказанием и скорректирует свое поведение. Для наделения правами и обязанностями компаний уже существует такое понятие, как юридическое лицо. В будущем носители ИИ также получат статус субъектов права. И первыми за это будут ратовать страховщики, стремясь ограничить рамки своей ответственности. А если роботам предоставят право владения активами, они будут заниматься умножением богатств своих хозяев.

Персонализированные… цены

За несколько лет предприниматель-новатор Джефф Безос превратил Amazon из небольшого интернет-магазина по продаже книг в гиганта онлайн-торговли. Amazon зарабатывает деньги на разнице цен: компания использует алгоритмы, аналогичные используемым при торговле ценными бумагами, чтобы оптимизировать и даже “персонализировать” цены – для каждого клиента они формируются индивидуально. Оптимизация включает в себя манипулирование стоимостью доставки с помощью таких инструментов, как Amazon Prime. Чтобы оправдать расходы на подписку на Prime, вы поневоле совершаете покупки только на сайте Amazon, тем самым помогая ее превращению в монополию. Amazon получает доступ к информации о ценах конкурентов, побуждая их размещать предложения на своей площадке и использовать ее мощности для выполнения заказов. В будущем индивидуальные, корректируемые на ходу искусственным интеллектом цены станут нормой. Менее автоматизированные конкуренты уйдут с рынка, который окажется во власти процветающих, диктующих свои цены монополий.

“Фараоны” современной Америки

Сегодня состоятельные американцы не стремятся выставлять свое богатство напоказ. В наши дни феноменальное богатство означает в первую очередь не роскошный образ жизни, а личное могущество, в том числе политическое влияние. Подобно египетским фараонам, тратившим колоссальные ресурсы на возведение пирамид, сегодняшние миллиардеры расходуют огромные средства и используют свое влияние для лоббирования и реализации своих проектов. Судя по расходам, именно их, а не средний класс, следует считать определяющим фактором роста экономики США. А высококлассные специалисты с трудом устраиваются на работу, страдают от изнурительной рабочей нагрузки, попадают в долговую кабалу. Передовые технологии и ИИ делают еще более уязвимым их и без того ненадежное положение, угрожая оставить без работы.

Стремительная автоматизация и рынок труда

Рынки хорошо переваривают постепенные изменения, но плохо справляются с внезапными глобальными технологическими сдвигами. Автоматизация угрожает рынку труда, делая многие профессии ненужными. В ходе исторического перехода к промышленной экономике станки в течение двух столетий постепенно заменяли рабочих. Практически полное замещение может стать реальностью к 2035 году. Это спровоцирует рост безработицы – причем не циклической, а структурной. Компании, подобные Amazon, перестраивают рабочие процессы, устраняя квалифицированный человеческий труд. Роботы и искусственный интеллект будут постепенно заменять людей во всех сферах деятельности.

“Я искренне верю в то, что наше будущее – это «Звездный путь», а не «Терминатор»”.

В розничной торговле покупки по Интернету снижают потребность в персонале, поднимая показатель дохода на одного сотрудника значительно выше уровня, характерного для традиционных розничных сетей – даже таких успешных, как Walmart. В секторе грузовых перевозок самоуправляемые фуры, способные работать день и ночь без перерывов на отдых, со временем заменят большую часть из нынешних 1,7 миллиона дальнобойщиков США. Сортировать и паковать товары на складах тоже будут роботы. В юриспруденции компьютеры будут составлять контракты, искать необходимые прецеденты и оказывать вспомогательные услуги. Используя технологию Watson, компания IBM будет помогать врачам диагностировать сложные заболевания. В авиации автопилот уже обеспечивает бóльшую безопасность, чем пилоты-люди. Образовательное ПО заменяет учителей. В такой ситуации профессионально-техническое обучение и постоянное повышение квалификации будут лучше готовить людей к будущему, чем традиционная модель образования. Система предоставляемых работодателем кредитов на профессиональную переподготовку с последующей выплатой долга из заработка могла бы дать работникам будущего образование и мобильность, необходимые для выживания на сложном и быстро меняющемся рынке труда.

Проблема экономического неравенства

Чтобы избавиться от неравенства доходов, экономика должна служить интересам общества. Вряд ли кто-то мечтает жить в обществе, где с каждым днем растет пропасть между баснословно богатым меньшинством и нищим населением. Если правительства на законодательном уровне борются с загрязнением окружающей среды и решают проблемы здравоохранения, почему имущественное неравенство до сих пор ускользает из их поля зрения? Чтобы остановить расслоение, для каждой компании следует рассчитать “индекс общественной выгоды”, основанный на коэффициенте Джини, оценивающем степень неравенства доходов в обществе, и поставить ставку налогов в зависимость от этого индекса. Тогда компании, основными бенефициарами которых являются лишь несколько сверхбогатых людей, будут платить максимальные налоги, а компаниям, находящихся в собственности миллионов мелких акционеров, будут предоставлены налоговые льготы. Кроме того, власти могли бы стимулировать инвестирование в ценные бумаги компаний с высоким “индексом общественной выгоды”, выдавая субсидии и кредиты на их приобретение или оплачивая ими труд волонтеров, занятых социально значимой работой. Без “перенастройки” экономики автоматизация лишь усугубит неравенство и ухудшит качество жизни людей, вместо того чтобы его улучшить.

Будущее ваших детей

Точно так же, как когда-то исчез конный транспорт, изживет себя и автомобиль, управляемый человеком. В конце концов и понятие личного транспорта уйдет в прошлое: люди будут вызывать автомобиль лишь по мере надобности. Самоуправляемые автомобили будут не только экономить средства, но и беречь жизнь людей: по прогнозам специалистов, число ДТП снизится на 90%. Последуют положительные перемены и в сфере экологии и здоровья – снизится уровень загрязнения, в городах станет больше зелени. Думающие машины хотя и не будут мыслить, как человек, возможно, будут рассматриваться законом как “искусственные лица”. Правда, нельзя исключать, что в отдаленном будущем роботы возьмут под свой контроль все ресурсы, а к людям будут относиться либо с безразличием, либо как к своим забавным, наделенным эмоциями “домашним питомцам”. Друзьям робота, иначе говоря.

Об авторе

Джерри Каплан – предприниматель, изобретатель и футуролог, доктор наук, преподает этику и философию ИИ в Стэнфордском университете, в прошлом работал в Стэнфордской лаборатории ИИ.