Радикальные технологии: устройство повседневной жизни - Адам Гринфилд.
Представьте себе Париж. Не туристический Париж открыток и романтических фильмов, а Париж, пронизанный сетью невидимых датчиков, камер и алгоритмов. Это не футуристический прогноз, а, как подчеркивает Гринфилд, констатация настоящего. Город, который мы знаем, неуловимо, но фундаментально изменился.
Гринфилд рисует картину города, ставшего гигантским считывающим устройством. Уличные фонари не просто освещают улицы, они адаптируются к интенсивности движения, оптимизируя потребление энергии. Банкоматы не просто выдают деньги, они фиксируют каждую транзакцию, отслеживают подозрительную активность и взаимодействуют с другими системами безопасности. Даже мусорные баки, оснащённые датчиками, сигнализируют о своем наполнении, оптимизируя маршруты мусоровозов.
Вся эта сложная городская повседневность, полная вещей, которые имеют отношение к вещам, на самом деле к нам не имеет отношения – это больше, чем кажется с первого взгляда. Каждое, любое, действие, которое опосредовано технологиями, "порождаетценность", которую мы не в силах пока ещё "увидеть", поскольку то, как меняется среда, само по себе уже стало чем-то радикально иным.
Все это регистрируется, отслеживается, анализируется. Каждый телефонный звонок, каждая покупка, каждое перемещение по городу – все это оставляет цифровой след, который может быть использован для самых разных целей: от улучшения работы общественного транспорта до таргетированной рекламы и выявления потенциальных правонарушителей.
Эта новая осведомленность о происходящем имеет свою цену. Приватность, анонимность — всё это уходит в прошлое. Город становится прозрачным, но эта прозрачность неравномерна. Данные о нас доступны другим, но мы не всегда знаем, кто ими владеет, как они используются и какие последствия это может иметь. Отсюда Гринфилд вводит основную оппозицию, которая разворачивается на протяжении всей книги: человек против системы, которая неподконтрольна ему. Повседневность, пишет он, все сильнее колонизируется "сетевыми объектами, сервисами и пространствами", определяя и устанавливая возможности. "Сегодня, – пишет Гринфилд, – наша повседневная жизнь во власти вещей".
Перед нами встаёт задача: осознать, как именно технологии меняют нашу жизнь. Книга Гринфилда — это не футурологический трактат, а критический анализ настоящего, с его "радикальными технологиями", которые уже здесь и уже сейчас меняют "устройство повседневной жизни". "Цель технологий – заставить пересмотреть отношение к самим технологиям", напоминает нам автор.
И далее автор ставит вопрос, проходящий красной нитью через всю книгу: "Кто получает от этого выгоду?". Вопрос не праздный и не тривиальный, учитывая масштаб и глубину перемен, которые описывает Гринфилд. Кто и с какой целью устанавливает датчики и алгоритмы? Чьи интересы они обслуживают? Как эти технологии влияют на нашу способность действовать, выбирать и жить? От ответа на эти вопросы зависит наше будущее. "Ведь радикальные технологии, – пишет он, – в состоянии поставить крест на самой возможности выбора и, соответственно, на демократии и любых проявлениях свободной воли".
Гринфилд не призывает отказаться от технологий, но он призывает к осмотрительности, к критическому осмыслению того, как они встраиваются в нашу жизнь и какие ценности они продвигают. Он, следуя за Стэффордом Биром, предлагает рассматривать технологии не как автономные сущности, а как часть более широкой социальной и политической системы. И в этом смысле каждая, отдельно взятая технология не нейтральна, она, в конечном счете, так или иначе служит чьим-то интересам и продвигает чьи-то ценности. "Приходится думать, – пишет Гринфилд, – не столько о самих технологиях, сколько об этических нормах, которыми руководствуются, пользуясь этими технологиями. Эти нормы пока – в значительной мере, – не проработаны".
Автор представляет читателям десять технологий, меняющих нашу жизнь и повседневную рутину. Каждая из них – сама по себе, не определяет нашу жизнь. Но в совокупности, замечает он, они меняют саму ткань реальности. Отсюда и возникает эта необходимость пересмотреть, оценить, с тем, чтобы попытаться как-то "высвободить заключенный в них потенциал" и, в конечном счете, заново "обустроить" – саму жизнь.
Глава 1. Смартфон: самость в сетевом режиме
Первая глава посвящена смартфону – устройству, которое, по мнению Гринфилда, стало квинтэссенцией современной эпохи, ее символом и инструментом. Смартфон – это не просто телефон, это портал в цифровой мир, посредник между человеком и реальностью, протез, расширяющий наши возможности и одновременно меняющий нас самих.
Автор подробно анализирует, как смартфон изменил нашу повседневную жизнь, поглотив множество функций, которые раньше выполнялись другими предметами. Смартфон заменил нам часы, будильник, календарь, записную книжку, фотоаппарат, карту, компас, кошелек, ключи и многое другое. Он стал нашим постоянным спутником, нашим окном в мир, нашим интерфейсом с реальностью. Но он не просто упростил нам выполнение ежедневных задач – это слишком поверхностный взгляд, с которым не согласен Гринфилд, поскольку у него есть "более серьезная миссия". Он стал "интерфейсом ко всем прочим людям" и, как следствие, "управляющей надстройкой над ними", инструментом управления человеком со стороны всех тех сил, что используют этот инструмент.
Этот процесс дематериализации повседневности, когда физические объекты и действия заменяются цифровыми эквивалентами, имеет глубокие последствия. Мы получаем удобство, скорость, доступ к информации, но при этом теряем что-то важное — осязаемость мира, непосредственность взаимодействия с ним, ощущение контроля над своей жизнью. "Эта технология набрасывает сеть на все", говорит Гринфилд, делая его прозрачнее. Смартфон – "одно из самых совершенных устройств для наблюдения за жизнью, слежения за нею". Он создает принципиально новые возможности.
Мы полагаемся на смартфон, ожидая от него ежесекундной связи и предоставления, "в режиме реального времени", новой информации, и тем самым, иронизирует автор, не замечая, что это создает новый, доселе невиданный тип неравенства, к примеру, между теми, у кого телефон всегда включён, и теми, у кого он не работает. Возникают ситуации, в которых пользователи все больше "чувствуют себя зависимыми" – прежде всего от "непрозрачной", незаметной, но "обязательной инфраструктуры." Мы больше не контролируем вещи и службы, ставшие посредниками, интерфейсами.
"Эта зависимость усугубляется еще и тем, – пишет Гринфилд, – что она становится постоянной унификацией, то есть сведением разного опыта, как, например, шоппинг, фото, общение, "к одной, более общей, платформе." Эта унификация выражается и в "ограниченном наборе жестов", которые позволяют "взаимодействовать с ней", и в создании новой этики – "колонизации повседневной жизни коммерческими силами", заставляя человека менять привычки, делая их предсказуемыми. Смартфоны и социальные сети становятся способом "производить ценность" и одновременно способом "ограничивать ценности".
Кроме того, Гринфилд рассматривает смартфон не только в его потребительском виде, как объект, вещь, но как узел сложной сети отношений, инфраструктуры, ресурсов: "смартфон определяет нашу способность действовать в мире." Это не только наш, личный, инструмент: это –место пересечения влияний: как компаний и корпораций, которые производят устройства, так и тайных акторов, "невидимых" игроков, – шпионов и "злоумышленников", создающих программные уязвимости и с их помощью распространяющих "вирусы" или же, что страшнее, использующих телефон, его "датчики" и "маяки" в иных целях, не имеющих к нашей частной, обособленной жизни никакого отношения.
Гринфилд подчёркивает парадокс: чем больше мы полагаемся на смартфон, тем меньше мы контролируем свою жизнь. Мы становимся зависимыми от технологий, которые не понимаем, и уязвимыми перед лицом сил, которые мы не видим. Эта зависимость – не просто техническая, она экзистенциальная. Мы отдаем часть своей свободы в обмен на удобство и доступ к информации, но при этом теряем что-то более важное – способность понимать мир и действовать в нем самостоятельно.
Глава 2. Интернет вещей: планетарная сеть восприятия и реагирования
Если первая глава была посвящена индивидуальному опыту взаимодействия с технологиями, то вторая глава расширяет перспективу, рассматривая, как Интернет вещей (IoT) преобразует городскую среду, превращая ее в гигантскую сеть взаимосвязанных датчиков и устройств.
Интернет Вещей —это, буквально, сеть физических объектов ("вещей"), подключенных к сети, в большинстве случаев к интернету, и обладающих способностью собирать данные о вещах или же менять сами вещи. Гринфилд настаивает на том, что подключение к сети означает и "возможность воздействовать", возможность не только видеть мир и понимать его, но и "автоматически, в нужный момент менять его".
Гринфилд не ограничивается описанием технических аспектов IoT. Он анализирует философские и политические предпосылки, лежащие в основе этой технологии. Он видит в IoT воплощение страха перед неизвестностью, стремление к тотальному контролю и желание оптимизировать все аспекты жизни. IoT создаёт "умную" среду, которая реагирует на наши потребности и предвидит наши желания. Но эта "умная" среда также следит за нами, собирает данные о наших действиях и влияет на наше поведение. Где грань, задаётся вопросом автор, между удобством и контролем? Как замечает автор, не имеет значения, какой способ соединения (проводной или беспроводной) – умный дом управляется дистанционно в любом случае, делая излишним физический контакт с тем, чем нужно управлять. "Главный элемент системы – возможность исключать непредсказуемое, снижать "когнитивную нагрузку"", пишет Гринфилд. Он иронизирует, напоминая, что пока эти системы находятся под контролем производителей. Новые устройства в конечном счёте "объединяются, накладываются", составляя ещё одну, параллельную повседневность, но которая, с другой стороны, становится необходимой. "Для пользователя нет другого выбора, – иронизирует Гринфилд, – кроме как полагаться на эти системы, как и на тех, кто их производит".
Гринфилд рассматривает IoT в разных масштабах, от носимых устройств, измеряющих наши физиологические параметры (так называемое "измерение себя"), до "умного дома" и "умного города", управляющих целыми инфраструктурами. В каждом из этих случаев IoT обещает повысить эффективность, оптимизировать ресурсы и улучшить качество жизни. Но за этими обещаниями, предупреждает автор, скрываются риски и угрозы. Он ставит сложные этические вопросы об автономии, приватности, безопасности и распределении власти.
Ирония заключается в том, что именно "прозрачность" и доступность делает Интернет вещей уязвимым: Гринфилд замечает, что в IoT, по сути, "никто не остаётся по ту сторону дисплея" - система "видит" всё, буквально становится самой вещью. С этой, "обратной", "теневой" стороны у нас появляется то, чего так боялись поклонники "закрытых" систем: тотальной зависимости, подчинённости и потери свободы. "Теперь у вас, – добавляет автор, – действительно нет другого выбора"
Носимые устройства собирают данные о нашем теле, "умные" дома следят за нашими привычками, "умные" города управляют нашими передвижениями. Мы оказываемся в сети взаимосвязанных устройств, которые постоянно обмениваются информацией о нас. Эта информация может быть использована для разных целей, от персонализированной рекламы до полицейского надзора. И мы не всегда можем контролировать, как эта информация используется и кому она доступна. Гринфилд подчеркивает, что даже "добросовестные" попытки принести пользу обществу и предоставить удобство часто служат причиной возникновения проблем и ограничения возможностей. Но что важнее, все те "попытки" автоматизации, предпринимаемые, в частности, IoT, на поверку, создают больше проблем, чем решают. Возникает парадокс: мы не становимся умнее, делая системы умнее. В любом случае, пишет он, – даже если все "части" IoT "собираются" в целое, даже если "всё идёт как по маслу" и получается то, что нам обещают поставщики и разработчики этих устройств – как это изменит нас? "Зачем*нам нужно" это упрощение, спрашивает он.
Гринфилд призывает нас задуматься о том, какой мир мы строим и какую цену мы готовы платить за технологический прогресс. Он предупреждает об опасностях тотальной автоматизации, непрозрачности алгоритмов и утраты контроля над собственной жизнью. Но он также признает, что технологии могут открыть перед нами новые возможности и улучшить нашу жизнь, если мы будем использовать их осознанно и ответственно.
Глава 4. Цифровое производство: к новой политической экономии материи
Четвертая глава посвящена цифровому производству, которое, по мнению Гринфилда, обладает потенциалом радикально изменить наши отношения с материальным миром. 3D-принтеры, станки с ЧПУ и другие инструменты цифрового производства демократизируют доступ к средствам производства, позволяя каждому стать создателем, творцом, а не только потребителем.
Гринфилд описывает Replicator 2, как типичный 3D-принтер, подчеркивая при этом, что подобные устройства больше не фантастика. Но все же и Replicator 2, как и все "станки" с ЧПУ, не меняют, по Гринфилду, основного: "массовости производства", его, по сути, конвейерного характера. Цифровое производство – это все еще производство, пусть и делающее производство "более гибким".
Но это только кажется, что технологии цифрового производства подрывают основы капитализма, – замечает он. По мнению Гринфилда, идея распределенного производства выглядит как очередная утопия. На деле цифровое производство воспроизводит существующее положение вещей, с его разделением на имущих и неимущих. Появляется новая, "цифровая" зависимость, привязывающая человека к новой системе, с ее центрами производства. Эта новая "технологическая реальность", к примеру, с "возобновлением интереса к ручному труду", говорит Гринфилд, в особенности – труду по запросу – выглядит на поверку еще большей несправедливостью, чем прежняя реальность с "диктатурой вещей".
Он рисует картину мира, в котором каждый может стать производителем, но этот мир не обещает равенства. Наоборот: в этом мире все, от самого понятия стоимости вещи до ее производства, встраивается в глобальную сеть и там "растворяется", а люди, как и в прежнем, "старом", мире, остаются, – в массе своей, не у дел.
Автор противопоставляет эту утопию изобилия реальности, в которой ресурсы по-прежнему ограничены, а доступ к ним неравномерен. Он подчеркивает, что цифровое производство не решает проблему отходов и не отменяет законы термодинамики. Оно лишь перемещает производство из центра на периферию, делая его более доступным, но не более справедливым. "Изменились ли в лучшую сторону люди?" – спрашивает он, иронизируя. Но угроза реальна: распределение материальных благ в новом цифровом производстве происходит ещё более неравномерно, чем раньше.
Более того, замечает автор, пока "системы слишком сложны для того, чтобы разобраться, а люди все ещё в достаточной мере невежественны", вряд ли что-либо, хоть сколько-нибудь радикально изменится. Технологическая среда по-прежнему будет служить причиной возникновения самых, что ни есть, традиционных человеческих реакций.
Глава 5. Криптовалюта: вычислительная гарантия стоимости
Пятая глава посвящена криптовалютам, и в первую очередь биткойну, как альтернативе традиционным деньгам, контролируемым государством. Гринфилд подробно разбирает принципы работы биткойна, подчеркивая его децентрализованный характер и криптографическую основу, которые, как предполагалось, должны были сделать его устойчивым к манипуляциям и цензуре. Но и с этой технологией все оказалось сложнее: распределенность не исключает контроля, даже "тотального", "абсолютного" контроля, и, более того, провоцирует новое неравенство.
В основании любой криптовалюты, как и у обычных, "фиатных" денег, лежит вера. Вера, как говорит автор, подкрепленная "техническими" гарантиями. Он напоминает, что сами слова: монета, банк, биржа, рынок – лишь создают видимость порядка и надежности. Это – мир слов, в котором намерения могут не совпадать с результатом. Но эта игра слов, указывает Гринфилд, все-таки меняет, необратимо, мир: в самом общем смысле слова, все криптовалюты, не только биткойн, как бы "закольцовывают" действия, отбрасывая любые рассуждения об этике. Отсюда неизбежная "анонимность".
Описывая принципы работы биткоина, автор замечает, что он использует "доверие наоборот", что противоречит самому устройству, и цели, денег. Но это доверие мнимое. Проблема, – замечает он, в частности, состоит в самой формулировке "доверяй – проверяй". "Мы не знаем – то, что называется доверием, доверие не подразумевает верификацию. Мы верим"
Возникает парадокс: созданный с определённой целью, биткойн все-таки встраивается в реальность, в те властные отношения, что определяют и эту реальность, и наше положение в ней. Цифровая валюта оказывается не такой уж независимой как представлялось вначале. Отсюда и угрозы: с самого появления, подчеркивает Гринфилд, криптовалюты служили причиной возникновения как самых разнообразных "финансовых пирамид", так и – новых возможностей для самых разных манипуляций. Положение человека – быть обманутым. Он "верит", но эта вера, напоминает автор, ничем, никак не подкреплена, в особенности, морально.
Гринфилд подчеркивает непрозрачность системы, скрывающей, кто именно управляет криптовалютой, "запутывая" пользователя. Он не отрицает, что у криптовалют есть преимущества: к примеру, это относительно дешевые системы транзакций. "В отличие от большинства традиционных, классических банковских операций, оплата через биткоин позволяет продавцу избавиться от пошлин в размере, условно, от двух до трёх процентов." Но сам принцип их действия остается, пишет он, – "подозрительным", неочевидным, поскольку ни один "банк", "биржа", поставщик не обходятся без каких-либо скрытых издержек. Остаётся неясным, замечает автор, главное: как устроена и на чем "зарабатывает" сама система.
Гринфилд, подобно другим авторам, сравнивает криптовалюты с финансовыми "пузырями", не имеющими под собой ничего, кроме "веры" участников рынка. Криптовалюта, таким образом, как финансовая единица все еще не самодостаточна: её реальное содержание подменяется видимостью или обещаниями ее разработчиков. Криптовалюта, и в особенности, биткоин – это суррогат, то есть вещь, призванная заменить собой реальные деньги. Но, как и любой суррогат, подменяет собой нечто изначальное, реальное, только в воображении людей. До тех пор, пока они, люди, в это – в сам суррогат – верят. "Так многие, и к тому же наиболее, возможно, изощрённые инвесторы прогорают. Отсюда недоверие, подозрительность ко всей этой системе. Отсюда и ее "эзотеричность", намеренно, как предполагает автор, создаваемая.
Это "мир слов": в конце концов, кто, напоминает Гринфилд, и как объяснит, в чем ценность – и, более того, в чём ее, криптовалюты, гарантия, кто – что, "какиесилы" стоят за ней и обеспечивают эту, с позволения сказать, "гарантию"?
Глава 6. Блокчейн по ту сторону биткойна: основа для постгуманистических институтов
Шестая глава посвящена блокчейну — технологии, лежащей в основе биткойна, но выходящей далеко за рамки криптовалют. Гринфилд утверждает, что блокчейн может стать основой для новых типов организаций и институтов, работающих по принципам, отличным от традиционных.
"Блокчейн, если отделить его от биткойна," пишет Гринфилд, "имеет непреходящее значение. Если убрать из уравнения Биткойн, блокчейн продолжает работать."
Он подробно описывает принципы работы блокчейна: распределенный реестр, криптографическая защита, консенсусный механизм, прозрачность и неизменяемость записей. Эти свойства, по мнению автора, делают блокчейн привлекательным для широкого круга приложений, выходящих за рамки финансовых транзакций. Гринфилд предполагает "внедрение новых, более надежных форм кооперации между людьми." Блокчейн – прежде всего технология координации. Отсюда интерес к ДАО (децентрализованным автономным организациям): "Это то, к чему так долго стремился технологический мир." "И теперь наконец-то нашел способ соединить всех со всеми. И вот они, – иронизирует автор, – объединяются в коалиции немыслимых прежде размеров, стирая границы."
Гринфилд видит в блокчейне потенциал для создания новых форм социальной организации, управления и экономического взаимодействия. Умные контракты, самоисполняющиеся соглашения, записанные в блокчейне, могут автоматизировать многие процессы, устраняя необходимость в посредниках и гарантируя выполнение обязательств. Он предсказывает "переворот" в социальных науках. Он видит угрозу, стоящую за "наступлением" нового типа платформ: "Этот переворот в социальной науке состоит в предложении и внедрении новых типов коллективного действия, не считаясь с этическими ограничениями"
Гринфилд рассматривает Децентрализованные автономные организации (DAO) как один из наиболее перспективных примеров использования блокчейна. DAO – это организации, управляемые кодом, а не людьми, что, теоретически, должно сделать их более прозрачными, эффективными и устойчивыми к коррупции.
Но Гринфилд не обольщается утопическими обещаниями сторонников блокчейна. Он указывает на проблемы и риски, связанные с этой технологией, такие как непрозрачность алгоритмов, централизация власти в руках немногих, возможность злоупотреблений и непредвиденных последствий.
Автор подчеркивает, что блокчейн – это не панацея, а инструмент, и его влияние на общество будет зависеть от того, как мы его используем. Он призывает к осторожности, критическому осмыслению и активному участию в формировании будущего, в котором технологии будут служить интересам людей, а не наоборот.
Гринфилд скептически относится к возможностям создать такое "умное", саморегулируемое общество автоматически, полагая, что в этом случае " порядок восторжествует над людьми." "Проблемы, как правило, не в людях – и не в решениях," говорит Гринфилд, как бы подводя итог. "Вопросы возникают там, – где начинаются последствия – самые, что ни есть непредсказуемые."
Глава 7. Автоматизация: уничтожение труда
Седьмая глава посвящена автоматизации – процессу, который, по мнению Гринфилда, радикально изменяет рынок труда и ставит под вопрос будущее самой работы. Автор не ограничивается рассмотрением традиционных форм автоматизации, таких как роботы на производстве или программное обеспечение в офисах. Он анализирует, как новые технологии, такие как машинное обучение, искусственный интеллект и алгоритмическое управление, влияют на все сферы трудовой деятельности, от физического труда до интеллектуального, от рутинных операций до принятия решений.
Гринфилд "отделяет возможности алгоритмических систем от тех условий, которые они создают", напоминая о "логике", ведущей к замещению. Упрощая сложные процессы и избавляя от всего лишнего, компьютеры и связанные с ними, зависимые от них технологии, не привносят ничего нового: они создают те же процессы, воспроизводят и укрепляют те же тенденции, следуя которым жило прежнее общество, но "с меньшими возможностями" для человека
Гринфилд подчеркивает, что автоматизация – это не нейтральный процесс, а результат выбора, который делают люди. Этот выбор определяется экономическими стимулами, политическими решениями и культурными установками. Он затрагивает не только рабочие места, но и навыки, знания, отношения между людьми и способы организации труда. Гринфилд указывает и на "законы", то есть "нормы, неявно присутствующие" в обществе. И задаёт закономерный вопрос: что такое автоматизация, кто выигрывает, а кто проигрывает от повсеместной автоматизации?
Автоматизация, как бы напоминая логику предыдущих разделов книги, "стремится стать всем", то есть " навязать всем одну и ту же норму поведения, "высветить" все, "прочесть, как на ладони", но, по сути, ничего, кроме новых рисков, – не создать.
На протяжении главы, Гринфилд размышляет об автоматизации, задаваясь вопросами, остающимися, во многом, "без ответов": Кто, с какой стати, устанавливает "новые законы", какие цели он, создатель закона, преследует? Кому выгодно появление все новых, более совершенных, инструментов, что и кто получает? Что скрывается за видимостью? "Нужен другой ответ," – говорит Гринфилд, точнее, нужен ответ другого человека: "Дело в том, что пока одни рассуждают о "дивном новом мире" больших возможностей, другие отвечают за всех остальных." Последствия этих, частных, действий отражаются на всех: создаются новые и новые этические дилеммы. Эти проблемы, которые пока еще не, запрещено решать, говорит Гринфилд. "Вы должны иметь право решать этические проблемы самостоятельно."
Автор описывает различные сценарии автоматизации, от замены кассиров роботами до использования алгоритмов для управления работниками и принятия решений. Он показывает, как автоматизация усиливает неравенство, снижает заработную плату и лишает людей контроля над своей трудовой деятельностью. Он также предупреждает о рисках, связанных с чрезмерной зависимостью от алгоритмов, которые могут быть непрозрачными, предвзятыми и непонятными для большинства людей. "Если, – пишет он, – система "видит" только так, вы начинаете вести себя по-другому"
Гринфилд не призывает к полному отказу от автоматизации, но он настаивает на необходимости критического осмысления этого процесса и активного участия в формировании будущего, в котором технологии будут служить интересам всех людей, а не только избранных.
Глава 8. Машинное обучение: алгоритмическое производство знания
Восьмая глава посвящена машинному обучению (ML) – области искусственного интеллекта, которая позволяет алгоритмам извлекать знания из данных, делать прогнозы и принимать решения без явного программирования. Гринфилд исследует, как ML меняет способ производства знаний и влияет на различные сферы нашей жизни, от поиска в интернете до медицинской диагностики и финансового анализа.
Автор подчеркивает, что машинное обучение —это не просто технический процесс, а социальный и культурный феномен. Алгоритмы не нейтральны: они отражают ценности, предположения и предубеждения своих создателей, а также данные, на которых они обучаются. Это, иронизирует Гринфилд, еще одна иллюзия, созданная теми, кто вовлечён в "строительство" систем. Он предлагает учитывать, что системы, обучающиеся на "больших данных" (big data), "часто перенимают из данных и те предубеждения, которыми обладают их поставщики, – как и те, какими обладаем мы сами"
Гринфилд различает два основных типа машинного обучения: обучение с учителем (supervised learning), когда алгоритму предоставляются размеченные данные (например, изображения с указанием, что на них изображено), и обучение без учителя (unsupervised learning), когда алгоритм самостоятельно выявляет структуры и закономерности в неразмеченных данных. Оба типа обучения имеют свои ограничения и риски.
Обучение с учителем может страдать от переобучения (overfitting), когда алгоритм слишком точно подстраивается под обучающие данные и плохо обобщает новые случаи. Оно также может быть предвзятым, если обучающие данные не репрезентативны или содержат систематические ошибки. Что-то одно определяет все. Но так было всегда, говорит Гринфилд.
Обучение без учителя, в свою очередь, может приводить к неожиданным и неинтерпретируемым результатам, поскольку алгоритм самостоятельно определяет, что значимо, а что нет. Это создает проблемы с подотчетностью и прозрачностью: как мы можем доверять алгоритму, если мы не понимаем, как он принимает решения? Гринфилд иллюстрирует это примером программы Google Deep Dream, которая генерировала психоделические образы, основанные на обучении на изображениях собак. Машина, замечает он, делает, но не понимает. "В этом – суть дилеммы", – добавляет автор.
Автор обращает внимание на то, что машинное обучение часто используется для создания систем, которые влияют на жизни людей, принимая решения о кредитовании, страховании, найме на работу, полицейском надзоре и даже судебных приговорах. Эти системы могут увековечивать и усиливать существующее неравенство и дискриминацию, если они обучаются на предвзятых данных или отражают предубеждения своих создателей. Это в конечном итоге создаёт еще один путь, по которому "знание о нас" расходится и начинает, с другой стороны, определять наши повседневные решения.
Гринфилд предупреждает об опасности чрезмерного доверия к алгоритмам и призывает к критическому осмыслению этических и социальных последствий машинного обучения. Он подчеркивает, что технологии – это не нейтральные инструменты, а продукты человеческой деятельности, которые отражают наши ценности, цели и предубеждения. Отсюда его постоянные напоминания, ироничные ссылки на авторов, кто, до него, уже указывал на эти ограничения, проблемы, скрытые мотивы создателей. "Алгоритмы отбирают. Но отбирают не сами: это делают люди, у которых всегда найдётся какое-нибудь объяснение, по какой причине это так."
Они не появляются из ниоткуда, говорит Гринфилд, напоминая, что искусственный интеллект – прежде всего и, по большому счёту, в основном, пока что – только искусственный, но никак не интеллект.
Глава 10. Радикальные технологии: дизайн повседневной жизни
Десятая, заключительная, глава обобщает наблюдения, высказанные в предыдущих главах и возвращает нас к картине радикальных технологий. Все радикальные технологии сплетаются между собой, составляя некое, хотя пока и неустойчивое, единство. AR, IoT, умные контракты, автоматизированный транспорт – всё это части, ещё не собранные в нечто, напоминающее механизм, точнее, сборку.
Здесь все больше "вещей" оказывается соединено, что создаёт новое пространство для "культурного обмена" и одновременно с этим увеличивая "риски", с которыми "мы вынуждены сталкиваться каждый день". Возникают "невообразимые прежде комбинации", меняющие среду нашего обитания, буквально – "атмосферу", делая её менее, а не более предсказуемой, лишая нас самих контроля над ней, подчас, и воли.
По мнению Гринфилда, новые, сложные "комбинации" становятся, в конце концов, точкой невозврата: то, к чему стремятся создатели радикальных технологий – это и есть "производство нового человека". Это "точка, из которой нет дороги назад". Человек уже не контролирует ситуацию: как не контролирует он алгоритмы и программы. Поменялись, говорит Гринфилд, местами, ролями, что знаменует "закат гуманистического идеала." "Мы находим то, к чему стремились – но совсем в ином месте", заключает он.
Радикальные технологии – это и есть радикальные технологии. Они радикально, окончательно, меняют среду обитания человека. Встраиваясь в жизнь и делая ее зависимой от своих функций, меняют и самого человека, "расширяя" его "возможности", и вместе с тем делая невозможным многое из того, к чему он привык. Возможности, о которых мы так мечтали, в действительности – сводятся, говорит он, к новому подчинению, по существу, новому рабству: рабству, которое оправдывается необходимостью. И что еще печальнее: "простотой и удобством новых технологий". Мы создаём новые технологии не с тем, чтобы самим ими пользоваться, а, скорее, чтобы создавать самих себя, принуждая себя и, главное, других, им подчиниться. "Ничто так, – замечает автор, – не способствует конформизму как автоматизация. Она по определению подрывает спонтанность". Переизобретая человека, мы навязываем друг другу новый, другой образ действия и "стиль поведения", лишая себя возможности знать, "кто", с какой "целью", как именно это делает. И более того – "с какой целью это делает."
В этом Гринфилд сходен со многими критиками технологий от Эллюля до Постмана и Кэри. Но Гринфилд идет дальше, связывая воедино, казалось бы, разные, ничем не связанные технологические тренды. И он призывает посмотреть шире: что именно происходит, когда мы, человек, подчиняемся машине, пусть даже ради благих целей, пусть даже стремясь, всего-навсего, к удобству, – к чему мы при этом, в действительности, приходим, и что, буквально, с нами происходит?
Он предлагает, пусть и в общих чертах, рассмотреть как отдельные "части", или "модули", встраиваются в жизнь, так и саму жизнь, на макроуровне, ставшую другой, словно с уходом каких-то "базовых ценностей" и в чем-то неузнаваемую. И в то же время Гринфилд показывает, что между тем, к чему стремился "новый человек" технологий, и тем, что он "создаёт" – есть "ощутимая разница": мы больше не понимаем, к чему приведут нас наши действия." Поэтому нельзя с уверенностью сказать, пишет он, что это будет.
Это, пожалуй, главный урок, который мы можем извлечь из рассуждений о будущем, к которому, кажется, подводит нас Адам Гринфилд: новые технологии, по сути, уже на пороге, меняют нас и мир необратимым образом, но мы, не машины, как прежде можем – и должны, – определять курс движения.
Заключение. О тетраподах и тактике – радикальные технологии и повседневная жизнь
Гринфилд завершает книгу размышлением о непредвиденных последствиях технологического вмешательства, используя образ японских тетраподов – бетонных конструкций, призванных защищать береговую линию, но в итоге усугубивших эрозию. Этот образ служит метафорой того, как технологии, созданные с благими намерениями, могут иметь негативные и неожиданные последствия.
Дело, полагает он, даже не в этом. А в том, на что мы смотрим в первую очередь, когда рассуждаем об этих технологиях, и что опускаем из вида. Тетраподы, к примеру, вполне могли бы и "предотвратить эрозию, выполнив свою прямую и главную функцию, ради которой их создавали." Что еще, замечает Гринфилд, должен делать тетрапод? В конечном счёте, проблема, по его словам, в самой нашей способности как-либо на них влиять, менять их, менять самих себя: "проблема, как ее понимаю я, в том, что я вижу в них лишь свое отражение".
Автор подчеркивает, что технологии – это не автономные силы, а продукты человеческой деятельности, отражающие наши ценности, цели и предубеждения. Они встроены в социальные, экономические и политические системы и влияют на распределение власти и возможностей.
Гринфилд призывает к критическому осмыслению технологий, к пониманию их ограничений и потенциальных рисков. Он предупреждает об опасности чрезмерного доверия к алгоритмам, которые могут быть непрозрачными, предвзятыми и непонятными для большинства людей. Последствия, говорит Гринфилд, предсказать сложно (если возможно). В этом суть того, что описывается в этой книге как изменения: "Изменяясь сами, мы, люди, меняем мир."
Изменения касаются не только нас, но и, прежде всего, "тех вещей, что вовне нас, вещей, к которым мы больше всего привязаны."
Но главный вопрос, который ставит Гринфилд, — это вопрос о власти. Кто контролирует технологии? Кому они служат? Как они влияют на нашу свободу и автономию? Можем ли мы использовать технологии для создания более справедливого и устойчивого мира, или они неизбежно приведут к усилению неравенства и контроля? "Если я и дальше намерен писать об этом, то, несомненно, я больше не должен рассуждать о людях как о безликих существах. Мне нужно знать: какая именно из идей о "нехватке, зависимости и подчинённости пронизывает всех, все вещи?" – задаёт себе вопрос автор, отвечая, по сути, и самому себе. Отказываясь от ценностей и отбрасывая условности (или создавая видимость такого отказа, отрицания), "вы освобождаетесь от многого", добавляет он, в особенности - от зависимости.
Отвечая на эти вопросы, Гринфилд не предлагает простых решений. Он признает сложность и неоднозначность технологического прогресса, подчеркивая необходимость постоянного диалога, критического анализа и активного участия в формировании будущего.
Книга завершается призывом к действию. Гринфилд утверждает, что мы не должны быть пассивными наблюдателями технологических изменений, а должны стать активными участниками процесса, определяющего, каким будет наш мир. Он призывает нас задуматься о том, какие ценности мы хотим вложить в технологии и как мы можем использовать их для создания более справедливого, устойчивого и гуманного будущего. Он призывает действовать сейчас, пока у нас есть возможность.