За стеной фильтров

Что Интернет скрывает от вас?

Эли Паризер

Несбывшиеся надежды о роли Интернета

Появление Интернета обещало человечеству свободу. Интернет обеспечивал прямой доступ к информации и прозрачность действий. Благодаря Интернету люди получили возможность общаться друг с другом поверх любых социальных барьеров. Дав шанс бесплатно или без больших затрат публиковать любые материалы, Интернет обеспечил новые площадки, формы и средства для самовыражения, общения, развития журналистики и поиска истины. Поскольку все получили равный доступ к информации, стало казаться, что равенство пользователей – это неотъемлемое свойство Интернета. Тем не менее с недавних пор Всемирная сеть меняется в неожиданную сторону. Эти изменения связаны с тем, как компании собирают и используют информацию о пользователях Интернета.

“Цифровой мир фундаментально меняется, и никто нас об этом не предупреждает”.

Когда-то результаты поиска информации в Интернете варьировались в зависимости от того, в какой поисковой системе велся поиск, поскольку у каждой из них был свой алгоритм сортировки результатов. Поиск был анонимным – по одному и тому же слову поисковая машина выдавала одинаковые результаты независимо от того, кто сделал запрос. Все это осталось в прошлом. Сегодня, когда вы ищете информацию в Интернете, поисковая система анализирует все ваши предшествующие поисковые запросы и с учетом этих данных подбирает результаты, которые выдает в ответ на ваш новый запрос.

“Персонализированный Google на запрос «стволовые клетки» может выдавать диаметрально противоположные результаты в зависимости от того, кто его вводит: ученый, поддерживающий исследования стволовых клеток, или активист, выступающий против них”.

Поисковые системы используют эту информацию, чтобы вывести наверх ссылки, которые лучше соответствуют вашим прошлым поисковым запросам. Так, интернет-магазин Amazon прогнозирует ваши желания, анализируя покупки, сделанные в прошлом, а Google старается показать результаты поиска, похожие на то, что вы уже видели, тем самым сужая ваше окно в мир. Эти и многие другие компании манипулируют поисковыми запросами, чтобы вы купили то, в чем (по их мнению, основанному на собранных о вас данных) вы нуждаетесь.

Отфильтрованная информация

Сами того не сознавая, вы публикуете в Сети много личной информации. Это ваши сообщения в социальных сетях, электронные письма, GPS-координаты вашего сотового телефона. Чем более точными сведениями о вас обладают компании, занимающиеся сбором информации, тем более персонализированную рекламу они вам показывают и тем больше товаров и услуг продают. Но персонализации подвергается не только реклама. Все чаще алгоритмы персонализации определяют, какие новости вы будете читать и какая другая информация будет доступна вам в Интернете. Так, на основе ваших поисковых запросов службы онлайн-знакомств определяют, анкеты кого из потенциальных партнеров вам показать. В итоге возникает настоящая “стена фильтров”, которая изолирует вас от мира. Информация в Интернете фильтруется против вашей воли, и, делая очередной поисковый запрос, вы лишь обогащаете набор критериев для последующей фильтрации результатов поиска.

“На Amazon идет нескончаемая погоня за пользовательскими данными: когда вы читаете книги на ридере Kindle, информация о фразах, которые вы выделяете, страницах, которые вы переворачиваете, и о том, читаете ли вы внимательно или пролистываете, отправляется на серверы Amazon и используется, чтобы определить, какие книги могут вам еще понравиться”.

Информация в самом деле нуждается в фильтрации: человек не в состоянии осмыслить тысячи новых статей в блогах, миллионы новых записей в Facebook и миллиарды новых электронных писем, ежедневно появляющихся в Сети. “Стена фильтров” и возникла с благим намерением: как средство отделения нужной (иначе, релевантной) информации от ненужной. Однако за удобство приходится расплачиваться. Ваши поисковые запросы не исчезают бесследно. Поэтому если вы ищете в Интернете информацию о пешем туризме в странах третьего мира, будьте готовы к повышению страховых взносов: ваша страховая компания может сделать вывод, что вы склонны подвергать себя риску.

Как строилась “стена фильтров”

В 1990-х годах теоретик компьютерных технологий Николас Негропонте предсказал появление автоматических “интеллектуальных агентов”, помогающих людям избегать информационной перегрузки, делая отбор в огромном потоке продукции СМИ, да и всей Сети в целом. Другие исследователи размышляли о том, что произойдет, если эти “персонализированные встроенные редакторы” начнут блокировать онлайновую рекламу – ведь без нее не будет и онлайн-торговли. В 1994 году основатель Amazon Джефф Безос одним из первых попытался извлечь выгоду из “силы релевантности”: его идея заключалась в объединении преимуществ Интернета с индивидуализированным подходом хозяина книжной лавки, который настолько хорошо знает своих покупателей, что может порекомендовать им, что купить. Для этого Безос использовал алгоритм “коллаборативной фильтрации”, разработанный специалистами центра Xerox в Пало-Альто для сортировки электронных писем.

“Facebook дал возможность поставить метку «Мне нравится» на любой объект в Интернете”.

Новаторской идеей основателей Google Пейджа и Брина была PageRank – система сортировки поисковых результатов, благодаря которой пользователь получает именно ту информацию, которую ищет, а не тысячи случайных результатов. Данные о пользователях Google аккумулирует с помощью таких служб, как бесплатный почтовый сервис Gmail. За пользование почтой вы ничего не платите – за исключением того, что предоставляете компании доступ к личным сведениям, в том числе содержанию своих электронных писем, которое также обрабатывается. Алгоритмы Google группируют пользователей на основе собранной о них информации и для каждой из групп показывают свои поисковые результаты и свою рекламу.

“Бизнес-стратегия интернет-гигантов формулируется просто: чем точнее их информационное предложение будет соответствовать личным потребностям, тем больше рекламы они продадут и тем выше вероятность, что вы купите предлагаемые ими продукты”.

Некоторые интернет-компании сами запрашивают у пользователей личную информацию. Так, например, поступает Facebook. В социальных сетях предыдущих поколений (в том числе Friendster и MySpace) пользователям нужно было заходить на страницы друзей, чтобы узнать, что у них нового. Facebook создала для этого ленту новостей, ставшую своего рода персонализированной “газетой”. Кнопка “Мне нравится” позволяет каждому не только заявить о своих предпочтениях, но и мгновенно поделиться этой информацией с друзьями. Благодаря таким возможностям эта социальная сеть становится частью жизни пользователей и порождает зависимость, накрепко привязывая к себе. Привыкнув общаться в Facebook, люди уже не хотят переходить на другую платформу, даже если та удобнее.

Воздействие на сознание

Сознание человека поддерживает равновесие между прошлым опытом и новой информацией. “Стена фильтров” разрушает этот сложный когнитивный баланс. Она изолирует человека, окружая его уже известной ему информацией, и он замыкается в устоявшемся образе мыслей. Эта оболочка не пропускает из внешней среды импульсы, побуждающие к познанию нового.

“Будучи властелином собственноручно созданной вселенной, легко увидеть в людях лишь средства достижения цели, переменные, которыми ты манипулируешь в мысленной таблице, а не живых мыслящих существ”.

Действительность познается с помощью понятийных схем: увидев в предмете черты, соответствующие понятию “стул”, мы узнаем в нем стул. Эти схемы ограничивают нашу способность к восприятию информации: мы склонны игнорировать все, что не соответствует имеющимся у нас понятиям. Наша “предвзятость подтверждения” выступает формой фильтрации: если вы ожидаете, что определенная ситуация приведет к определенным последствиям, именно эти последствия вы и будете наблюдать.

“Сегодня мы оказались в начале эпохи «самосбывающихся» идентичностей: искаженная интернет-картина, изображающая нас, становится нами”.

“Стена фильтров” усугубляет эту склонность, не пропуская информацию, указывающую на возможную ошибочность ваших суждений. Восприятие нового развивает мозг, но по мере усиления персонализации Интернета новое будет попадаться вам все реже и реже. Окруженный “стеной фильтров” мозг работает намного активнее, словно под действием психостимуляторов, обостряющих внимание. Однако при этом вы лишаетесь возможности творить и расширять границы восприятия, поскольку и не подозреваете об этих границах.

“Если персонализация проникнет слишком глубоко, она может помешать нашему контакту с неожиданными впечатлениями и идеями, разбивающими вдребезги наши предрассудки и меняющими наше мнение о мире и о себе”.

До недавних пор Интернет считался местом, где можно забыть о предрассудках реального мира, где никто не знает ни вашего возраста, ни пола. Анонимность Сети должна была сделать людей равными. Сегодня вся доступная информация о каждом пользователе активно собирается и тщательно анализируется. До эпохи отслеживания данных вы могли быть одним человеком в обществе, например на работе, и другим – дома. Эти два мира почти не пересекались. Теперь информация обо всех ваших мирах непрерывно объединяется, лишая вас возможности подстраивать свою идентичность, что помогает человеку “справляться с требованиями разных социальных ролей и сообществ”.

“Стена фильтров зачастую блокирует важные, но сложные или неприятные новости о нашем обществе. Она делает их невидимыми”.

Персонализация влияет и на ваше будущее. Все начинается с того, что все ваши предпочтения отслеживаются и вам предлагается что-то похожее. Ваш выбор поэтому ограничен вариантами на основе выбранных ранее – ваша “веб-история”, то есть ваше прошлое, начинает определять ваше будущее. Свои предположения о вас Google и Facebook делают, руководствуясь ошибочными теориями личности. Так, Google составляет ваш портрет на основе истории ваших поисковых запросов. Facebook использует более тонкий подход, выясняя, кем вы видите себя сами. Еще одна проблема заключается в скорости, с которой та или иная система делает о вас выводы: достаточно один раз перейти по ссылке, и вас отнесут к категории людей, интересующихся данной темой, даже если вы нажали на эту ссылку случайно. Система тут же начинает показывать вам информационные материалы и рекламу, соответствующую вашему новому “интересу”; ваш мозг, устраняя когнитивный диссонанс, убеждает вас в том, что эта тема вам действительно интересна. Постепенно вы становитесь другим человеком под воздействием алгоритмов машины.

Программисты, играющие в Творца

Обмен информацией в Интернете основан на функционировании программных кодов. Чтобы понимать виртуальный мир, необходимо лучше узнать тех, кто эти коды пишет. Подобно представителям творческих профессий, программисты иногда чувствуют искушение сотворить мир заново – естественно, улучшив его. Благодаря своим интеллектуальным способностям и профессионализму они могут добиться в виртуальной среде власти, которая недоступна им в обычной жизни. Источник этого могущества – систематизация, позволяющая упорядочить хаос с помощью логики, закладываемой в программный код.

“Персонализация передает власть в руки нескольких крупных корпоративных игроков. И консолидация огромных массивов данных дает правительствам (даже демократическим) гораздо больше потенциальной власти, чем прежде”.

Когда желание построить свою вселенную переносится в сферу общественных отношений, возникает серьезная опасность. “Компьютерные гении” могут совсем не интересоваться жизнью общества, политикой, текущими проблемами и не осознавать последствий своих действий. Систематизируя мир, они делают его понятным, однако при этом неизбежно упрощают его, устраняя множество нюансов, из которых складывается человеческая жизнь. Программисты не понимают того, что уже давно поняли градостроители: то, как вы конструируете пространство – неважно, реальное или виртуальное, – определяет способы его использования и влияет на его жителей. Для многих технических специалистов, работающих над созданием виртуального мира, главное – решение логических задач и разработка полезных функций. Нежелание задумываться об этической стороне своих действий ведет к воцарению “технодетерминизма” – редукционистской теории, рассматривающей информацию и технологии как существующие вне контроля и потребностей человека.

Свобода и конфиденциальность

Цифровые технологии будут играть решающую роль в формировании взглядов на свободу личности и другие важнейшие проблемы XXI века. Многие считают, что высокотехнологические “игрушки” помогают наполнять жизнь смыслом и укреплять отношения с окружающими. Однако сегодня мы наблюдаем лишь самое начало эпохи персонализации. По мере удешевления цифровых технологий сфера применения персонализации будет расширяться. Заглянуть в будущее нам позволяет искусство. Например, в фильме “Особое мнение” показаны билборды, проецирующие свое рекламное объявление для каждого проходящего мимо человека (аналогично контекстной рекламе Google). Компьютеры будут приобретать человеческие черты, пытаясь завладеть нашим вниманием, – и это им будет удаваться. Поскольку человек биологически запрограммирован активно реагировать на определенные стимулы – такие как новости, связанные с сексом, властью, насилием, знаменитостями, а также обсуждение чьей-то личной жизни, юмор и забавные происшествия, – компьютеры научатся эксплуатировать эти тайные “кнопки” человеческого сознания.

“На раннем этапе существования Интернета была надежда [на то, что] он наконец даст нам среду, где целые города и даже страны смогут совместно творить свою культуру в процессе дискуссии. Персонализация же принесла нам нечто иное: публичную сферу, которую сортируют и которой манипулируют алгоритмы, изначально фрагментированную и не способствующую диалогу”.

Под натиском технологического прогресса тайна личной жизни как таковая исчезнет. Уже готовы для коммерческого применения технологии, способные опознать человека на улице по фотографиям. А когда машины смогут идентифицировать вас где угодно, отследить ваши перемещения будет проще простого. Идентификационные чипы, встроенные в любые объекты – автомобили, телефоны, часы, спортивные кардиомониторы, – позволят создать глобальную систему слежения. Это означает, что все, кто получит доступ к этой системе, – бизнес, государство и отдельные люди – будут знать, где находитесь вы сами или ваше имущество. Для дальнейшего усиления персонализации будет анализироваться то, какие предметы вы приобретаете или используете. По аналогии с результатами поисковых запросов, которые варьируются в зависимости от уже сделанных пользователем запросов, под интересы индивидуального посетителя вскоре будет подстраиваться содержание целых сайтов.

Трансформация науки

Рост вычислительных мощностей до неузнаваемости преобразит науку. Главный редактор журнала Wired Крис Андерсон убежден, что “большие базы данных сводят на нет потребность в научных теориях”. Возросшие вычислительные мощности позволят анализировать триллионы битов данных, выявляя закономерности и устанавливая корреляции. Проблема такого подхода в том, что машинам не нужны теоретические модели, чтобы осмыслить результаты вычислений, тогда как людям эти модели нужны обязательно. Развитие компьютерных вычислений в этом направлении выведет их за пределы человеческого понимания.

“Алгоритмы, управляющие рекламой, начинают управлять и нашей жизнью”.

Складывается чрезвычайно опасная ситуация, когда нормы, регулирующие использование персональной информации третьими сторонами, непрозрачны или двусмысленны. Пользователи должны требовать прозрачности всех сторон виртуального мира. В поисковые алгоритмы обязательно нужно снова включить субъективный элемент, чтобы дать пользователю возможность узнать что-то новое, интересное не только ему, но и обществу в целом. Интернет размыл понятие общественной сферы и поставил под сомнение само существование “широкой аудитории”. Обратить эту тенденцию вспять, вспомнив о принципах, на которых некогда основывался Интернет, – значит вернуть Всемирную сеть к ее истокам. И частные, и государственные организации США должны строго следовать “правилам добросовестной работы с информацией”. Согласно этим правилам у людей есть право контролировать использование персональных данных, знать, кто их собирает и что с этими данными будут делать. Необходимо создать государственный орган, осуществляющий надзор за сбором информации в Интернете, наподобие тех, что функционируют в Евросоюзе.