Водитель автомобиля без водителя

Будущее на выбор

В обществе ведется активное обсуждение рисков и выгод, порождаемых стремительным развитием технологий. Из-за огромного разнообразия мнений о том, каким должно быть будущее, может показаться, что общество не в состоянии управлять ходом прогресса. Но нельзя забывать, что с разрушением социальной системы и инфраструктуры исчезают и все достижения цивилизации, – вспомним о Древнем Риме. Оптимисты рисуют картину изобилующей ресурсами утопии, основанной на прогрессе и социальной справедливости. Но если не принимать важных решений и не укреплять систему нравственных ценностей, реальностью станет антиутопия с дефицитом ресурсов и социальным хаосом. Наш выбор должен быть нацелен на устранение неравенства и обеспечение равноправного доступа к плодам прогресса.

“Нас тревожит утрата контроля, утрата составляющих нашей идентичности, а главное – утрата нашей свободы”.

Революция микропроцессоров подарила нам домашние компьютеры, электронную почту, GPS. Но вскоре обнаружилась и ее обратная сторона: множество людей столкнулись с ростом неравенства доходов или потеряли работу из-за автоматизации. Свой протест против экономической дестабилизации, вызванной деятельностью технологических гигантов, люди выражают достаточно радикально: так, группа активистов забросала корпоративные автобусы Google экскрементами. Наверняка в будущем кто-то захочет сорвать свой гнев и на беспилотных автомобилях. По мере распространения искусственного интеллекта перед человечеством отчетливо встанет необходимость принимать жизненно важные решения.

Закон Мура

В основе наблюдаемого сегодня экспоненциального развития технологий лежит закон Мура, согласно которому число транзисторов в микросхемах удваивается каждые 18 месяцев. Этот ошеломительный рост сопровождается резким снижением издержек в таких областях, как генная инженерия, производство смартфонов и использование возобновляемых источников энергии. Возникает эффект, который футуролог Рэй Курцвейл назвал “законом ускоряющейся отдачи от инвестиций”. Технологический бум развивается по S-образной кривой, провоцируя новые и новые изменения парадигмы – например, связанные с поразительными успехами в области квантовых вычислений или самообучающихся нейронных сетей.

“С помощью Интернета вещей все будет само ездить, само загружать новые версии ПО, само включаться и выключаться в нужное время и даже само понимать, что вот-вот сломается”.

Картину изобильного, залитого ярким светом, полного отдыха и развлечений будущего дополняют сверхэффективные жилища с робототехникой, автономные автомобили, 3D-принтеры для еды и возможность заменять любые части тела. По некоторым прогнозам, в будущем увеличится продолжительность жизни, будет обеспечен всеобщий доступ к образованию, энергоснабжению и чистой воде, войны за нефть прекратятся, во всем мире исчезнет нищета. Но у такого будущего есть и своя изнанка: утрата неприкосновенности частной жизни, рост зависимости человека от техники, непредсказуемые последствия действий хакеров, возможность похищать ДНК и другую биометрическую информацию.

“Искусственный интеллект – это самое значительное изобретение современной кибернетики и одновременно самая опасная технология из всех, когда-либо созданных человеком”.

Изменения затронут жизнь каждого человека. Доверите ли вы роботам заботиться о ваших близких? Станете ли вы улучшать свой мозг, свое тело или ДНК? Нынешние законодательные и государственные системы никак не касаются этих вопросов. Чтобы общество выработало этические мерки, все его члены должны участвовать в обсуждении этих проблем.

Технологии не ждут разрешений

Технологиям не нужно дожидаться одобрения общества на совершение радикального переворота. Такие компании, как Skype и Airbnb, развиваются в обход всех регулирующих структур. Производителю “домашних” генетических тестов 23andMe удалось выдержать натиск Управления США по контролю за качеством пищевых продуктов и медикаментов. Uber успешно сражается в разных странах с законами и таксомоторными фирмами. Едва ли что-то может остановить успешные инновации. В отношении любой из новых технологий нужно рассматривать три вопроса:

Выгодна ли эта технология всем людям в равной мере?
Как риски, связанные с ее использованием, соотносятся с получаемыми выгодами?
Упрочит ли она автономию человека или, наоборот, усугубит его зависимость?

“Наш долг – донести до политиков, какие законы мы хотели бы иметь и какие действия мы будем считать этически оправданными в этом новом, стремительно меняющемся мире”.

Системы “узкого ИИ”, предназначенные для выполнения конкретных задач, непрерывно развиваются, становясь все умнее. Их потомки будут носителями “обладающего сознанием искусственного интеллекта”, или “широкого ИИ”, который сможет решать неструктурированные проблемы, слишком сложные для человека. Созданный IBM компьютер Уотсон уже сегодня знает о раковых заболеваниях больше, чем любой врач-онколог. Использование подобных систем полностью изменит медицину. Технологии на основе ИИ смогут заменить многие профессии. Так, интеллектуальные алгоритмы, встроенные Symantec в программу Clearwell и отвечающие за поиск юридической информации, работают лучше, чем дипломированные правоведы. Предвидя возможность появления “систем с суперинтеллектом”, Стивен Хокинг настоятельно рекомендует встраивать в них “аварийные выключатели”.

Образование

В будущем вашим учителем, возможно, станет “аватар” – носитель ИИ, с человеком в качестве наставника. Такой персонализированный образовательный процесс будет напоминать сократические диалоги древних греков, живших задолго до появления современного “образовательного конвейера”. Инновации на основе ИИ позволят массовым открытым онлайн-курсам осуществить ту функцию, ради которой они когда-то создавались. Результаты эксперимента “Компьютер в стене”, проведенного преподавателем информационных технологий Сугатой Митрой в 1999 году в трущобах Нью-Дели, показали, что дети охотно используют любую возможность самообразования. В “перевернутой модели образования” учителя направляют работу учеников, используя уже готовые уроки из проверенных источников. Удешевление систем ИИ и высокоскоростной Интернет сделает доступ к образованию равным для всех.

Медицина

Экспоненциальный прогресс в медицине позволит спасти множество жизней – в частности, за счет удешевления профилактики и лечения заболеваний на ранних стадиях. Так, недорогой медицинский прибор HealthCube Pro выполняет 33 вида медицинской диагностики, делая ее доступной для малоимущих в развивающихся странах и сельских районах США. Ориентация на потребителя ускорит развитие приложений для смартфона, позволяющих контролировать личное здоровье. Инновационные разработки обеспечивают прогресс в генетике, эпигенетике и исследованиях микробиома кишечника. Когда медицина преобразует описание функций организма в поток данных, главным терапевтом станет компьютерная программа. Ликвидация множества посредников в сфере здравоохранения будет выгодна всем.

Роботы – помощники или убийцы?

Существует парадокс: роботы лучше людей решают сложные задачи, но не могут выполнить простую работу по дому, например, сложить белье после стирки. Однако рано или поздно благодаря машинному обучению на основе опыта персональные роботы станут ловкими и умелыми и получат распространение в быту. Население планеты стареет, и помощь роботов будет здесь как нельзя кстати. По прогнозам, достаточно скоро роботы возьмут на себя заботу о престарелых жителях Японии.

“Наша персональная информация и наша безопасность станут сопутствующими потерями в непрекращающейся борьбе держав за доминирование”.

Не исключено, что в будущем машины смогут убивать людей. Даже если роботы и не станут подчинять себе людей или истреблять их, они отберут у них работу: по прогнозам, в США будет потеряно до 47% рабочих мест. И все же автоматизация несет обществу пользу: она содействует экономическому росту и создает условия для равного доступа к изобилию.

Всеобщая подключенность

Интернет вещей – это сеть миниатюрных, дистанционно связанных друг с другом компьютеров, встроенных в различные бытовые приборы. Когда транспорт, коммунальная инфраструктура, жилые дома и больницы будут объединены в сеть с помощью таких устройств с самообновляющимся ПО, это повысит эффективность и снизит количество несчастных случаев, заболеваемость и объемы отходов. Но у Интернета вещей есть и обратная сторона. Прежде всего, он сможет шпионить за нами. Мы утратим тайну частной жизни, превратимся в объект таргетированного маркетинга и будем зависеть от устройств, которые в принципе могут взломать злоумышленники. Так, в 2015 году хакер похитил данные о миллионах детей и их родителей, которые на своих серверах собирал китайский производитель игрушек VTech.

“Практически бесплатная энергия и вода, а также беспилотные автомобили станут самыми мощными факторами повышения автономии человека за всю историю”.

По мере распространения инноваций на основе Интернета вещей риск взлома отдельно взятого устройства увеличивается. С Интернетом вещей связаны не только угрозы в сфере безопасности, но и возможность нанести непосредственный ущерб людям. Не исключено, что взломщики научатся получать доступ к камерам и микрофонам, встроенным в гаджеты. Большинство из нас стремится привязать все свои данные к одному аккаунту (например Google или Apple ID), что позволяет хакерам в случае успешного взлома мгновенно стереть всю “цифровую жизнь” человека. Объектом кражи может быть и медицинская информация. Без радикальных изменений законодательства о защите личных данных и прав собственности на нее ничем не ограниченный сбор сведений о людях не прекратится никогда.

Дроны

Появление дешевых высокочувствительных датчиков произвело революцию на рынке дронов – сегодня управлять беспилотным летательным аппаратом очень легко. В странах Запада наступление “эпохи дронов” было встречено с восторгом: какие возможности открываются для доставки фастфуда и посылок от Amazon! В развивающихся странах дроны будут использоваться для более насущных нужд, таких как доставка лекарств и повышение качества медобслуживания. Дроны смогут с пользой работать во всех уголках мира – например, производить непрерывный мониторинг сельскохозяйственных полей или обнаруживать пожары. Если создать для дронов надежную инфраструктуру, то большие расстояния и особенности рельефа местности станут намного менее значимыми факторами для контроля и распределения ресурсов. Но широкое использование дронов создает и новые риски: возникает опасность их столкновения с самолетами, облегчается транспортировка наркотиков, появляются новые возможности для применения ядов, огнестрельного оружия и бомб. Дроны могут дать новые возможности террористам.

Секвенирование генома

Сверхбыстрая расшифровка генома позволит выявлять опаснейшие заболевания на ранних стадиях; эта же технология станет источником угрозы индивидуального “биохакерства”. Для выявления зависимости генов от окружающей среды генетики станут использовать искусственный интеллект. Методы “точной медицины”, нацеленные на устранение патологий в геноме отдельного пациента, будут использоваться в борьбе против рака. В рамках исследований, которые ведет компания Calico, изучаются возможности для резкого увеличения продолжительности жизни за счет использования стволовых клеток и лекарственной терапии.

“Все происходит намного быстрее, по мере того как ускоряется развитие технологий и совершается переход от аналоговых систем к цифровым, от устройств, созданных природой (таких, как мозг), к компьютерным программам, от естественного к надбиологическому и надприродному”.

Исследования закономерностей развития микробиома кишечника показывают, что снижение видового разнообразия бактерий в кишечной микрофлоре может свидетельствовать о развитии диабета I типа и различных воспалительных процессов. Перспективным методом лечения болезни Крона стала “фекальная трансплантация”. В 2010 году Крейг Вентер создал в лабораторных условиях совершенно новый живой организм, получивший имя Синтия, и биология синтетических организмов превратилась в объект всеобщего внимания.

Расширение возможностей человека

Распространение беспилотных автомобилей позволит только в США спасти более миллиона жизней в течение нескольких десятилетий и навсегда изменит общество. Беспилотные автомобили под управлением ИИ будут перевозить пассажиров быстро, безопасно и с минимальным расходом топлива. Городские жители снова смогут гулять пешком, пожилые люди и инвалиды получат бóльшую мобильность, а люди в целом обретут невиданную ранее свободу в выборе места жительства. Но всеобщий переход к беспилотному транспорту приведет к сокращению миллионов рабочих мест, причем новые места им на смену созданы не будут.

“Несмотря на свои опасения, я точно знаю, что человечество окажется на высоте, как это и было всегда”.

Разработанный компанией Second Sight искусственный протез сетчатки глаза Argus II, который монтируется в обычные очки, уже получил одобрение Управления США по контролю за продуктами и медикаментами. Это устройство частично возвращает зрение пациентам с различными видами слепоты. Роботизированные экзоскелеты компании Ekso Bionics позволяют ходить тем, у кого парализованы нижние конечности. Имплантируемые устройства, напечатанные на 3D-принтере, уже сегодня сохраняют людям жизнь. Использование биочернил, представляющих собой многоклеточные строительные “блоки”, позволит печатать человеческие органы с использованием стволовых клеток пациента. Многие люди захотят встроить в свой организм не имитацию обычных органов, а супертехнологичные приспособления, позволяющие замедлить старение и расширить заложенные природой возможности.

“Возможно, придется принять поправку к Конституции о том, что наши данные принадлежат нам. В этом случае пользователи смогут играть на одном поле с технологическими компаниями, которые пока что безнаказанно используют полученную от нас информацию против нас самих”.

Экспоненциально развивающиеся технологии солнечной энергетики позволят добывать из океанов чистую воду для питья и полива, а также обеспечат практически бесплатную энергию. В 1954 году стоимость устройств на фотоэлементах составляла 1000 долларов за 1 ватт генерируемой энергии, а в 2017 году – порядка 50 центов за 1 ватт. С вводом в строй таких новых производственных объектов, как Gigafactory компании Tesla, стоимость сверхъёмких батарей (ключевого компонента систем хранения солнечной энергии) стремительно снижается. В Африке никогда не понадобятся огромные энергосистемы – достаточно скоро все освещение там будет светодиодным.

Выбор за обществом

Человечество владеет технологиями, которые можно употребить к добру или ко злу. Путь к миру, похожему на утопию “Звездного пути”, сопряжен с выбором разумных, экологически безопасных, социально справедливых решений, которые позволят облегчить резкий переход к следующему уровню технологий. Если же мы откажемся выбирать решения, обеспечивающие равноправие и соблюдение нравственных принципов, то имеющиеся у нас технологические средства станут использоваться для сомнительных целей. Или даже откроют прямую дорогу для осуществления антиутопии “Безумного Макса”.

Об авторах

Преподаватель технических дисциплин, предприниматель и колумнист Вивек Вадва читает лекции в университетах Карнеги-Меллона и Дьюка. Алекс Солкевер – вице-президент Mozilla по коммуникациям. Вадва и Солкевер – соавторы книги “Бегство иммигрантов”, в 2012 году объявленной The Economist “книгой года”.