Общество профилирования: Оценка, оптимизация, прогнозирование - Филипп Юнеман

ВВЕДЕНИЕ: КОГДА КОД СТАНОВИТСЯ ЗАКОНОМ

В отличие от ожиданий детей 1980-х годов, в 2000 году не появилось летающих машин, но пришли компьютеры и интернет. Возникла беспрецедентная вычислительная мощность, которая оказалась гораздо эффективнее любого гудящего транспортного средства для введения человечества в новую эру. Сегодня возможности, которые казались бы подросткам 80-х магией — чтение мировых газет в телефоне, мгновенная покупка редких вещей, видеосвязь на улице — стали обыденностью.

Однако эти технологии приносят и сюрпризы. Одним из главных успехов десятилетия стали ДНК-тесты компаний 23andMe и Ancestry.com. Если тест обнаруживает в вашем геноме 43% таджикской ДНК, платформа Airbnb может тут же предложить вам список апартаментов в Душанбе, чтобы вы могли «воссоединиться с корнями». Этот союз статистики геномов и рынка аренды жилья иллюстрирует то, что возникает сегодня на базе интернета, больших данных (big data) и алгоритмов. Это также обнажает навязчивый характер технологий: почему Airbnb должен знать мои гены?.

Анализ цифровой эпохи колеблется между технофилией, верящей, что алгоритмы вылечат рак, и технофобией, предсказывающей отупение человечества. Примеры пугают: американца допрашивала полиция из-за фото его обнаженного 9-летнего сына, отправленного врачу, так как алгоритмы облачного хранилища пометили это как «детскую порнографию». Или программное обеспечение для удаленного контроля, которое фотографирует рабочее место сотрудника каждые десять минут и вычитает из зарплаты время, проведенное не за клавиатурой.

Иногда дистопия уступает место абсурду. В 2017 году Уба Батлер превратил свой задний двор в Лондоне в «ресторан» The Shed at Dulwich, который стал самым рейтинговым на Tripadvisor исключительно благодаря фальшивым отзывам. Когда люди действительно начали бронировать столики, Батлер подал им замороженные блюда из микроволновки в саду, и реальные отзывы клиентов после этого остались массово положительными.

От дисциплины и контроля к профилированию

Филипп Юнеман вписывает свое исследование в «онтологию настоящего», следуя за Мишелем Фуко. Фуко описывал «общества дисциплины», где жизнь регулировалась институтами — от школы до тюрьмы — через дрессуру тела и надзор за духом. Позже Жиль Делёз описал «общества контроля», возникшие с капитализмом услуг, где контроль краток, быстр и непрерывен.

Однако концепция контроля Делёза не охватывает все нынешние изменения. Лоуренс Лессиг в 1999 году выдвинул тезис «Code is law» (Код — это закон): киберпространство регулируется самой архитектурой программного обеспечения. Автор утверждает: мы входим в общества профилирования. Если контроль действует «здесь и сейчас», то профилирование — предсказывает. Оно касается не только поведения, но убеждений и предпочтений, порождая новых субъектов и новые группы. Профилирование — это одновременно форма социальности и способ управления. Оно охватывает не только интернет, но и наши перемещения в реальном мире, банковские транзакции и даже «виртуальную реальность». Книга ставит целью системно связать эти точки, опираясь на философию науки и археологию знания Фуко.

СЕКЦИЯ 1: ПРОФИЛЬ, ПРОФАЙЛЕР, ПРОФИЛИРОВАНИЕ

ГЛАВА 1. СЛЕДЫ, ДАННЫЕ, BIG DATA, ДАТИФИКАЦИЯ — И ИХ ИЗНАНКА

Современный мир не оставляет шанса пройти незамеченным. Кредитная карта фиксирует расходы; транспортная карта — время прохода через турникеты; сеть камер — ваш силуэт; даже электросамокат поглощает персональные данные через GPS-чип. Наше пребывание на Земле документировано так, как ни в одном тоталитарном обществе прошлого. Мы постоянно оставляем следы, которые составляют материю того, что называют данными.

Следы мира и GBIF

Бруно Латур говорил, что ученые начинают со сбора следов мира, а затем строят модели. За последние десятилетия масштаб фиксации мира взорвался: собраны миллионы геномов, вселенная радиографируется спутниками. Примером служит программа Global Biodiversity Information Facility (GBIF), содержащая 1,5 миллиарда записей о встречаемости видов. Она иллюстрирует, что:

1. Данные никогда не даны в готовом виде — они требуют стандартизации.
2. Стоимость данных для пользователя резко снизилась.
3. Данные — ничто без метаданных (кто, как и когда сделал запись), которые определяют надежность.

Насколько велики большие данные?

Big data — это «баззворд», помогающий получать гранты. В 2003 году Эрик Шмидт заявлял, что за один день производится столько данных, сколько было создано от начала книгопечатания до 2003 года. По оценкам, человечество сгенерировало 12 зеттабайтов данных. Возник переход от режима гипотез к режиму, основанному на данных, где статистика выявляет паттерны. Характеристику Big Data часто сводят к «3V»: Velocity (скорость), Volume (объем), Variety (разнообразие форматов). Сабина Леонелли подчеркивает, что данные становятся «массивными» только в отношении конкретных вопросов.

Интероперабельность и статистика

Переход к Big Data меняет рациональность статистики. Если классическая статистика оперирует парой осей (рост/вес), то в Big Data пространство данных превращается в гиперпространство с n-измерениями. Анализ требует алгоритмов, таких как машинное обучение, способных обнаруживать паттерны в облаках данных. Ключевое понятие здесь — интероперабельность. Это возможность обмена данными между разными системами. Однако это ведет к «одомашниванию» мира, где ниша саламандры становится эквивалентной нише тюленя просто потому, что обе — точки в таблице.

Изнанка интернета

Интернет — самая мощная память о следах, хотя никто не проектировал его специально для этого. Мы «ориентируемся» в нем, как мореплаватели, знающие только поверхность океана. Изнанка интернета материальна: под вашим кликом данные записываются серверами, передаются по кабелям через океаны и флотилиям спутников. Каждое действие имеет материальный эффект, например выброс CO2 при просмотре видео на YouTube.

Европейский регламент по защите данных (GDPR) внес немного прозрачности, навязав сайтам обязанность запрашивать согласие на cookies. Если мы выбираем «Настроить куки», мы видим цифровую фауну агрегаторов данных (Boobra, Stripe, Mediarithmics и др.), которые всасывают вашу локацию, IP-адрес и траекторию в сети, чтобы продать их клиентам. Компании типа Mediarithmics предлагают «улучшить знания о клиентах» для таргетированной рекламы. Даже если данные псевдонимны, идеальная анонимность практически невозможна. Примером служит «портрет Google» Марка Л. из журнала Le Tigre: автор по открытым фото на Flickr и профилю в Facebook восстановил всю жизнь Марка за несколько лет. Часто настройки по умолчанию в приложениях максимизируют сбор данных, делая их предоставление не совсем «добровольным».

ГЛАВА 2. АГРЕГАТОРЫ, ПРЕДАТОРЫ И СКОРЫ

Накопление данных стало определением современного капитализма. Дата-брокеры (агрегаторы) собирают, анализируют и перепродают данные из интернета, реальных магазинов (карты лояльности) и государственных реестров. В США крупнейшие из них — Axciom, Experian, Oracle. Они продают «сегменты» — например, списки женщин определенного возраста и социального уровня для брендов белья. Компании практикуют onboarding — процесс, обеспечивающий интероперабельность данных: e-mail и номер телефона позволяют связать активность в интернете с покупками в реальном мире и перемещениями по GPS.

Глубоководные хищники данных

Мир дата-брокеров постоянно меняется. Компания Experian объединилась с магазином BestBuy для создания базы из 50 миллионов записей, а затем купила RentBureau для сбора историй аренды жилья. Axciom владеет данными о 700 миллионах человек, имея на каждого до 3000 точек данных (доходы, налоги, состав семьи, использование соцсетей). Эта информация продается не только коммерсантам, но и правительству США.

Агрегаторы могут объединять крайне чувствительные данные. Брокер Mediabase 200 продавал фармацевтическим компаниям списки жертв изнасилований («rape sufferers») по 79 долларов за 1000 имен. Эта экосистема несет риски утечек, как в случае с фото из Cloud Apple, взломом сайта знакомств Ashley Madison или скандалом с Cambridge Analytica и Facebook.

На вершине пищевой цепочки находятся гиганты — Gafam (Google, Amazon, Facebook, Apple, Microsoft). Они сами являются и брокерами, и менеджерами, и алгоритмами обработки данных. Google занимает центральное место благодаря не только поисковику с алгоритмом PageRank, но и инструменту Google Analytics, который анализирует трафик большинства сайтов в мире, возвращая данные в центр. В 2022 году округ Колумбия подал на Google в суд за «обман потребителей»: компания продолжает отслеживать геолокацию, даже если пользователь ее отключил.

Извлечение прибавочной стоимости из поведения

Шошана Зубофф называет это «капитализмом слежки». Google обнаружил, что взаимодействие пользователей с платформой порождает поведенческий избыток (behavioural surplus), который можно продавать бесконечно. Если классический капитализм по Марксу извлекал прибавочную стоимость из рабочего времени, то капитализм слежки — из каждого клика. Возникает «цифровой труд» (digital labor): даже заполнение капчи («найдите светофоры») — это бесплатная работа по обучению алгоритмов распознавания образов.

Амбиции гигантов тотальны. Сергей Брин заявлял: «Мы хотим, чтобы Google стал третьей половиной вашего мозга». В Китае экосистема Ant (филиал Alibaba) позволяет человеку получать зарплату, платить, инвестировать и брать кредиты внутри одной системы, данные которой доступны государству. Это не просто сбор информации, но и действие на мир: когда Waze советует объезд через деревню, он физически создает там пробку, разрушая покой жителей.

Кредитные скоры и профили

Кредитный скор — результат агрегации данных о здоровье, привычках и окружении заемщика. Для банкира это прогноз платежеспособности. Но данные не висят в пустоте: ваша импульсивность видна в фразах, состояние здоровья — в походке, отношение к долгам — в чистоте кузова вашей машины. В Китае conglomérat Ant объединяет данные от покупки обуви до транзакций в биткоинах, создавая идеальную интероперабельность для предсказания поведения заемщика.

Кредитный скор — это эманация вашего профиля. Профиль строится на основе всех цифровых следов. Он решает, какой пост вы увидите в соцсети, какую рекламу получите и какую музыку предложит Spotify. Мы приближаемся к сцене из «Особого мнения», где реклама обращается к человеку по имени, напоминая о прошлых покупках.

Профили бывают индивидуальными и коллективными. Чтобы создать коллективный профиль, достаточно взять группу людей со схожими чертами (например, любители симфонического металла) и найти другие корреляции в их поведении. Это позволяет платформам давать рекомендации через коллаборативную фильтрацию. Профиль — это гибридный объект: он «до» индивида (фиксирует то, что мы не осознаем) и «вне» него (результат корреляции следов других людей). Альянс 23andMe и Airbnb — пример расширения коллективного профиля: генетическая информация об «античном происхождении» смешивается с историей путешествий, чтобы точнее предсказать ваши будущие желания. В этом мире интернет одновременно обеспечивает экстремальную прозрачность (история Марка Л.) и радикальную непрозрачность алгоритмических механизмов управления нашей жизнью.

ГЛАВА 3. КОРРЕЛЯЦИИ И ПРЕДСКАЗАНИЯ

Если искать черту научного знания, которая отличала бы его от мифов или литературы, мы быстро найдем её в способности предсказывать. Наука позволяет предсказывать затмения с точностью, вызывающей трепет (как в истории о Тинтине у инков), и именно на этой способности зиждется наше доверие к ней. Предсказание тесно связано с причинно-следственной связью (каузальностью): знание причины позволяет ожидать следствия.

Однако в эпоху Big Data происходит фундаментальный эпистемологический сдвиг: переход от поиска причин к анализу корреляций в гиперпространстве данных.

От процессов к паттернам

Классическая наука различает паттерн (форму, структуру данных) и процесс (то, что порождает паттерн). Например, закон всемирного тяготения Ньютона объясняет эллиптические орбиты планет Кеплера как процесс, порождающий видимый паттерн. Корреляция же — это лишь постоянная связь между двумя переменными (например, протестантизмом и капитализмом у Макса Вебера), которая сама по себе не гарантирует наличия причинной связи.

Существует даже сайт spuriouscorrelations.org, демонстрирующий абсурдные корреляции: например, между потреблением моцареллы и уровнем самоубийств. В классической науке такие корреляции отсеиваются через эксперименты, доказывающие механизмы воздействия. Но в мире больших данных «тонкое измельчение» (fine graining) корреляций начинает заменять понимание причин.

Рафаэль Надаль против Искусственного Интеллекта

Спорт — идеальное поле для проверки предсказательной силы алгоритмов. Программа Slamtracker от IBM предсказывает исход теннисного матча в реальном времени. Она анализирует тысячи параметров всех предыдущих матчей игроков и находит «ключи» к победе (например, «если Надаль выиграет 54% первых подач, он победит»). Важно: алгоритм не учитывает каузальную структуру (силу удара или усталость). Он опирается на статистические закономерности, которые человеческий глаз не способен заметить. Это предсказание без понимания.

Крейг Вентер и предсказание лиц по геному

Генетика стала передовой линией этой новой эпистемологии. Крейг Вентер, пионер расшифровки генома, предложил метод предсказания черт лица на основе ДНК. Хотя генетики давно отказались от идеи «один ген — один признак», Вентер использует машинное обучение для поиска корреляций между комбинациями аллелей и микро-характеристиками лица. Ему не важен механизм того, как гены строят нос или глаза; ему достаточно статистической уверенности, что определенная последовательность ДНК соответствует определенному облику.

Эпистемология «подписи»

В сложных системах (экология, медицина) исследователи ищут «подписи» (signatures) — паттерны в потоках данных, предвещающие катастрофические изменения. Например, сигналы раннего предупреждения (EWS) могут предсказать опустынивание болота без моделирования биологических процессов. Крис Андерсон в Wired провозгласил «конец теории»: при наличии огромного объема данных каузальность становится «бесполезной гипотезой».

Однако на практике это не всегда работает. Прогностическая полиция (алгоритмы типа Predpol) обещала воплотить в жизнь фильм «Особое мнение», выявляя «горячие точки» преступности. Но на деле она часто лишь воспроизводит социальные предубеждения (bias) против бедных кварталов, создавая замкнутый круг надзора. В то же время алгоритмы блестяще справляются с отслеживанием герпеса у устриц, анализируя поисковые запросы Google о болезни в разных регионах. В мире профилирования эффективность заменяет истину.

ГЛАВА 4. ОБЛАКА И ПРОФИЛИРОВАНИЯ

Мы привыкли называть местом хранения данных «облако» (cloud), но по иронии статистики, мы и сами являемся облаками — «облаками точек». Дата-брокер фиксирует тысячи точек данных о каждом индивидууме, и в этом тумане предсказываются наши будущие выборы.

Кто живет в облаках?

Юнеман заменяет метафору «Паноптикона» Фуко (вертикальный контроль) на «стеклянный павильон» Дэна Грэма: мир, где каждый видит каждого, и нет единого центра. На смену дисциплине и контролю пришла сеть, где данные производятся ежесекундно. Профилирование возникает из четырех условий:

1. Сдвиг к корреляции (описан выше).
2. Конец стоимости данных (бесплатность).
3. Дуальность поиска информации.
4. Цифровые аффордансы.

«Информация хочет быть свободной»

Стейвард Брэнд в 1984 году провозгласил, что информация должна быть бесплатной. Современная экономика подтверждает это: мы не платим за Google, Википедию или соцсети. Но «бесплатность» — это лишь бизнес-модель. Крис Андерсон выделяет несколько схем: от рекламы до модели «premium». Важнейший элемент — цифровой труд (digital labor). Когда мы разгадываем капчу («найдите светофоры»), мы бесплатно обучаем алгоритмы распознавания образов. Мы платим своими данными, которые Шошана Зубофф называет «поведенческим избытком».

Дуальность: когда поиск становится следом

В интернете поиск информации — это всегда предоставление информации о себе. Ваш запрос «сыр в Юре» сообщает Google не только о вашем интересе, но и о вашей геолокации, типе устройства и времени активности. Возникает петля обратной связи: наше поведение меняет рекламу, которую мы видим, а реклама меняет наше поведение.

Кембридж Аналитика: программирование будущего

Профили становятся аффордансами ( Gibson) — опорами для действия. Компании типа Cambridge Analytica использовали профили 87 миллионов пользователей Facebook не просто чтобы предсказать их голос на выборах за Трампа или Brexit, но чтобы запрограммировать его через таргетированную пропаганду. Аффорданс превращается в средство управления индивидом в обход его сознания.

ГЛАВА 5. ЦИФРОВОЙ ПАТЕРНАЛИЗМ? АПОФЕОЗ УПРАВЛЯЕМОСТИ

Почему мы соглашаемся на сбор куки? Ответ кроется в архитектуре выбора. Дизайн сайтов подталкивает нас к кнопке «Принять всё», делая отказ от слежки когнитивно затратным.

Наджинг и «мягкий» патернализм

Концепция наджа (nudge) Ричарда Талера и Касса Санстейна предполагает, что людей можно мягко направлять к «правильным» решениям, не ограничивая их свободу. Это патернализм, потому что государство или компания «знают лучше», и либертарианство, потому что выбор формально остается за вами. Примеры: мигающие светодиоды на лестницах (чтобы люди не шли к лифту) или плацебо-таблетки в упаковке контрацептивов (для поддержания привычки приема).

Против мифа о рациональном человеке

Наджинг опирается на антропологию «ограниченной рациональности». В отличие от идеального Homo Economicus, реальные люди подвержены когнитивным искажениям (биасам). Мы предпочитаем сиюминутное удовольствие долгосрочной выгоде (гиперболическое дисконтирование). Биологически это оправдано: для наших предков-охотников съесть добычу здесь и сейчас было важнее, чем копить на старость.

В эпоху неолиберализма наджинг становится инструментом «ремонта» иррационального индивида, чтобы он соответствовал требованиям рынка. Политическое действие подменяется психологической корректировкой: вместо того чтобы запретить пластик, мы «подталкиваем» каждого к сортировке мусора.

Наджинг в сетях: адденкция и петли

Цифровая среда идеально подходит для наджинга. Лоуренс Лессиг писал: «Код — это закон». Сама архитектура соцсетей (бесконечный скролл, уведомления) — это глобальный надж, удерживающий внимание. Google Maps показывает нам Starbucks не потому, что мы его искали, а потому что наш профиль предсказывает наше скрытое желание выпить латте.

Юнеман выделяет два типа профилирования:

1. p-профилирование (по аналогии с профайлером в полиции): предсказание поведения на основе профиля.
2. n-профилирование (от nudge): активное формирование индивида, «обточка» его интересов и желаний под конкретные цели (продукт, кандидат, идеология).

Конечный результат — fit (соответствие): идеальное прилегание индивида к продукту. Социальное пространство распадается на микрониши, которые часто не имеют названий в обычном языке, так как определяются лишь бинарным кодом алгоритмов. Мы входим в мир, где рассчитывать — значит предсказывать, а предсказывать — уже действовать.

СЕКЦИЯ 2: ПРОФИЛИРОВАННЫЕ

ГЛАВА 6. ИНФЛЮЕНСЕРЫ И СООБЩЕСТВА

В обществе профилирования возникает вопрос: кто же является владельцем профиля? С одной стороны — это конкретный человек, с другой — профиль описывает целый класс индивидов со схожими чертами. Алгоритмы профилирования часто знают о наших желаниях (какую музыку послушать или что съесть на ужин) лучше нас самих. Это знание опирается на постоянный обмен данными между вашим индивидуальным профилем и коллективными профилями, к которым вас причислила машина.

Лингвистика без смысла: аналогия с DeepL

Юнеман подчеркивает, что алгоритмы не мыслят как социологи, использующие категории «буржуазия» или «биполярные личности». Они работают как современные переводчики (Google Translate или DeepL), которые не знают грамматики и синтаксиса, а просто сравнивают фразы с миллиардами существующих текстов. В этом гиперпространстве слово — это вектор (nGram), определяемый частотой его соседства с другими словами. Алгоритм не обладает «интенциональностью» (свойством сознания быть направленным на предмет), он просто предсказывает следующее слово. Юнеман иронично замечает, что это — высшая реализация идеи Лакана о том, что «означающее — это то, что представляет субъекта для другого означающего». В мире профилирования мы сами становимся такими векторами: если вы любите фильм «Глубокий сон», алгоритм предложит вам «Ночь и город» не потому, что понимает жанр нуар, а из-за статистической близости этих точек в данных.

Селф-трекинг: скульптура и медицина «4П»

Self-tracking (количественное самопознание) — это апофеоз связи индивида с самим собой через гаджеты. Смарт-часы фиксируют калории, шаги, циклы сна и пульс, превращая тело в профиль данных. Эти данные текут в двух направлениях:

1. Вертикально: к медицинским институтам, питая «медицину 4П» (персонализированная, точная, предсказательная, партисипаторная).
2. Горизонтально: в сообщества трекеров, где люди сравнивают свои успехи.

Юнеман отмечает горькую иронию: медицина, которая исторически сопротивлялась превращению пациента в «номер», теперь реализует идеал персонализации через тотальную квантификацию (оцифровку). Идеал «здоровья» подменяется идеалом оптимизации: тело должно стать максимально эффективным, а сообщество трекеров служит топливом для этой гонки.

Генетические сообщества и натурализация

Тесты на этническое происхождение (23andMe, Ancestry.com) — еще один пример создания «цифровых сообществ». Люди ищут свои «корни» в геноме, ошибочно отождествляя биологические данные с личной идентичностью. Юнеман разоблачает этот механизм: платформы не просто находят вам «кузенов», они используют ваши ответы на анкеты (любите ли вы кофе, раздражают ли вас звуки), чтобы связать эти привычки с фрагментами ДНК. Так возникают натурализованные сообщества, где любовь к хип-хопу кажется генетически обусловленной, хотя на деле это лишь результат статистической манипуляции.

Инфлюенсеры: горизонтальная власть

Термин «влияние» (influence) раньше имел негативный оттенок (психологическое давление, иностранное вмешательство), но сегодня стать инфлюенсером — мечта многих. В отличие от традиционных звезд, инфлюенсер — это «улучшенная версия нас самих». Его легитимность держится исключительно на метриках (лайки, просмотры, подписчики), которые легко поддаются накрутке через «фермы кликов» в Юго-Восточной Азии. Инфлюенсеры не вещают сверху вниз; они общаются со своей «комму» (сообществом) в режиме бесконечного диалога, создавая иллюзию аутентичности и близости. Бренды используют их для таргетирования микрониш, реализуя закон «длинного хвоста» Криса Андерсона: товары находят покупателей в самых экзотических сегментах рынка.

Язык тегов и параттаксис

Главная инновация цифровой эры — хэштег (#). Теги не строят иерархическое дерево классификации (как в биологии), они позволяют любые соположения. Язык тегов — это не аргументация, а сигнал к сплочению или исключению («свой/чужой»). Юнеман называет это паратаксисом — перечислением имен без глаголов (как в запросах Google или лозунге «Женщина. Жизнь. Свобода»). В этом языке нет места истине, есть только выражение аффекта.

Всё превращается в «контент». Это слово нейтрализует смысл: неважно, что изображено на картинке, важно, сколько данных она генерирует. В обществе профилирования норма истины заменяется нормой оптимальности.

ГЛАВА 7. ДЕФЕРЕНЦИЯ И ПРИШЕСТВИЕ КУРАТОРОВ

Классическое общество основано на разделении труда и легитимной деференции (доверии к знанию другого). Мы доверяем физикам в вопросах атомов и врачам в вопросах химии. Но интернет лишен «редактора» — фильтра, который подтверждал бы надежность источника.

От редактора к куратору

В науке деференция поддерживается процедурой рецензирования (peer review), которая отделяет надежное знание от препринтов. В эпоху соцсетей место редактора занимает куратор (по аналогии с современным искусством). Когда Артур Данто провозгласил «конец искусства» после коробок Brillo Уорхола, стало ясно: искусством вещь делает не её красота, а тот, кто её выбрал и выставил. На цифровых платформах куратором становится алгоритм рекомендации. Netflix или Spotify «сэмплируют» (выбирают фрагменты) из бесконечного океана контента специально для вас. Это ведет к радикальному разделению: я не вижу того же интерфейса Netflix, что и мой сосед.

Оптимизация против опыта

Рекомендательные системы обещают «оптимальный опыт клиента». Но Юнеман предупреждает: сама логика опыта предполагает риск разочарования и столкновения с новым. Если алгоритм всегда угадывает ваш вкус, вы перестаете получать реальный опыт. Более того, цифровой мир наполняется симулякрами (thispersondoesnotexist.com), созданными нейросетями GAN. Возникает «гонка вооружений» (эффект Красной Королевы): алгоритмы оптимизации соревнуются с алгоритмами обмана, создавая мир, где всё кажется и реальным, и фальшивым одновременно.

Каптация: субъект в плену

Оптимизация ведет к каптации (пленению). Платформы борются за наше внимание, удерживая нас в своих экосистемах. Покинуть Facebook или Apple — всё равно что выйти из секты: это когнитивно и социально затратно. Мы становимся пленниками в мире непрерывной оценки, где каждое наше действие должно подтверждать нашу «оптимальность».

ГЛАВА 8. ФИГУРЫ ТЕМПОРАЛЬНОСТИ: УКРАДЕННОЕ НАСТОЯЩЕЕ И КОНФИСКОВАННОЕ БУДУЩЕЕ

Профиль — это мост между прошлым и будущим. Он не просто описывает нас, он информирует наше будущее. Юнеман выделяет три ключевые фигуры времени в обществе профилирования.

1. Конфискованное будущее: кредитные скоры

В Китае система социального кредита (Sesame Credit от Ant Group) решает, может ли человек путешествовать, брать кредиты или даже найти партнера на сайте знакомств. Низкий скор закрывает само будущее: вы не можете купить билет на самолет или отправить ребенка в университет. Это реализация «Особого мнения» Дика: власть вмешивается до того, как совершено действие. Но и на Западе оценки в Uber или eBay работают как микро-кредиты, определяя наши будущие возможности.

2. Непрерывный поток: логика «адденкции»

Бесконечный скролл (infinite scroll), изобретенный Азой Раскиным, дарит нам чувство дурной бесконечности. Ленты соцсетей построены по принципу игровых автоматов: случайная выдача «наград» (лайков, интересных постов) держит мозг в постоянном напряжении. Юнеман вводит термин адденкция (addenction) — сплав зависимости (addiction) и связи (connection). Наше внимание приковано к немедленному будущему, которое никогда не наступает окончательно, лишая нас полноценного «сейчас». При этом наше цифровое прошлое превращается в «камень», который невозможно сбросить: старые посты или фото могут разрушить карьеру спустя десятилетия.

3. Тотальная мобилизация: смерть «мертвого времени»

Юнеман обращается к термину Эрнста Юнгера — «тотальная мобилизация». В обществе профилирования это означает борьбу с любыми паузами в производстве и потреблении. Приложения по доставке еды за 10 минут («потому что бургер не ждет») и сервисы микро-аренды авто (Airbnb для машин) превращают каждую свободную минуту и каждый неиспользуемый ресурс в товар. Даже пространство над унитазом в кафе становится рекламным щитом — «мертвое время» и «мертвое пространство» окончательно убиты в угоду циркуляции капитала.

СЕКЦИЯ 3: РЕАЛЬНОСТЬ В ЭПОХУ ПОТОКА

ГЛАВА 9. ПОТОКИ И АЛГОРИТМЫ

Реальность больше не строится через общественные институты (школу, завод), как у Бергера и Лукмана. Теперь она — результат петли обратной связи между потоками данных и алгоритмами.

Петли Shazam

Приложение Shazam — идеальный пример того, как данные меняют мир. Если песня «шазамится» в первые 10 секунд, лейблы понимают, какие черты (тембр, ритм) нравятся публике. Затем другие алгоритмы (например, AIVA) могут сами компоновать новые хиты, идеально соответствующие выявленным паттернам. Искусство перестает быть идеальным объектом (партитурой) и становится записью, оптимизированной под вкус «комму».

Инстаграммизация мира

Стандартизация пространства достигла пугающих масштабов: кафе в Ванкувере, Бали или Петербурге выглядят одинаково (кирпичные стены, столы из дуба, мачта-латте), потому что они ориентируются на одни и те же успешные образы в Instagram. Мир подстраивается под изображение. Юнеман называет это инстаграммизацией или платформизацией мира. Лица людей тоже стандартизируются через фильтры (типа «beauty filters»), создавая армию клонов с идеально ровной кожей и высокими скулами. Реальность трещит под напором симулякров, и даже наши мечты об «инклюзивности» (например, в Метавселенной) сводятся к выбору из ограниченной галереи аватаров.

Это четвертая и заключительная часть максимально полного аналитического пересказа книги Филиппа Юнемана «Общества профилирования: Оценивать, оптимизировать, предсказывать». В этом разделе мы разберем эпистемологические парадоксы профилирования, проблему подлинности в мире симулякров и политические пути сопротивления «обществу потока».

ГЛАВА 10. ЛУПИНГИ И ИСТИНА: КРАТКАЯ ЭПИСТЕМОЛОГИЯ ПРОФИЛИРОВАНИЯ

Классическая наука строится на разрыве между гипотезой и реальностью: мы делаем предсказание и проверяем его фактами. Однако в обществе профилирования этот разрыв исчезает. Юнеман, опираясь на концепцию «петель обратной связи» (looping kinds) Яна Хакинга, утверждает, что цифровые предсказания не просто описывают мир — они подстраивают мир под себя.

Самоисполняющиеся профили

Когда алгоритм рекомендует вам товар или политического кандидата, он не «угадывает» ваше предзаданное желание. Он формирует его. Если предсказание сбывается, это не значит, что оно было «истинным» в научном смысле; это значит, что операция n-профилирования (наджинга) прошла успешно. Юнеман называет этот режим веринейтральным (vérineutral): здесь эффективность (куплен товар или нет) полностью заменила категорию истины.

Искажения (биасы) как эффект реальности

Критики часто говорят о «предвзятости» алгоритмов (расизм, сексизм). Юнеман идет глубже: из-за «петель» обратной связи эти биасы становятся не просто ошибками кода, а социальными фактами. Если ИИ в США чаще отказывает темнокожим в условно-досрочном освобождении, потому что статистика «считает» их опасными, он физически увеличивает число темнокожих в тюрьмах, тем самым «подтверждая» свою следующую выборку данных. Этоfeedback-петля, которую невозможно разорвать простым исправлением кода, так как она уже изменила саму реальность.

Чтение лиц и «цифровая физиогномика»

Автор разбирает попытки использовать ИИ для детекции эмоций, сексуальной ориентации или преступных намерений. Он критикует работы Михала Косински (детекция гомосексуальности по фото) и теорию «базовых эмоций» Пола Экмана. Юнеман доказывает, что эти технологии — не «объективное знание», а триумф стереотипов. Однако, будучи внедренными в системы безопасности или найма, они создают эффект реальности: люди начинают подстраивать свою мимику и поведение под ожидания машины, чтобы не попасть в категорию «подозрительных».

ГЛАВА 11. ОБ АУТЕНТИЧНОСТИ СРЕДИ ПРОФИЛЕЙ

В мире, где GPT-3 может писать тексты, а DALL-E — создавать изображения несуществующих объектов (например, «краб, читающий журнал»), возникает вопрос: осталось ли место для подлинного опыта?

Машина опыта иTeddy Bear

Юнеман обращается к эксперименту Роберта Нозика о «машине опыта»: согласились бы вы подключиться к симуляции вечного счастья? Автор считает, что большинство откажется, потому что для человека критически важна агентивность — возможность «делать самому». Он приводит пример магазина Build-Your-Own Teddy Bear: дети готовы платить больше за игрушку, которую набили опилками сами. Это «радость авторства» — базовая ценность, которую общество профилирования пытается заменить «оптимальным потреблением».

NFT и тоска по «моёности»

Взрыв популярности NFT (невзаимозаменяемых токенов) Юнеман трактует не как финансовое безумие, а как симптом тоски по подлинности в цифровом мире. В пространстве, где любая копия идентична оригиналу, блокчейн становится искусственным способом вернуть объекту «ауру» (по Вальтеру Беньямину) и гарантировать «моёность» (mienneté) владения. Это попытка создать доверие в мире «инверсии», где больше невозможно отличить человека от бота.

Неоанимизм как форма побега

Юнеман замечает странный литературный тренд: успех книг типа «Автобиография осьминога» или «Тайная жизнь деревьев». Это «литература не-человеческого» — попытка найти контакт с тем, что принципиально не поддается профилированию. Деревья и осьминоги не оставляют цифровых следов, не имеют аккаунтов и не реагируют на наджинг. Обращение к «дикой природе» (wilderness) — это форма сопротивления Матрице, поиск «Другого», который не является зеркалом наших алгоритмов.

ЗАКЛЮЧЕНИЕ: ЗАМКНУТЬ ПОТОКИ

В финале Юнеман объединяет все нити. Общество профилирования — это общество потоков (логистики), где главная цель — уничтожить «стоки» (запас, паузу, статику) ради максимизации скорости обращения капитала.

Великая подмена (Substitution)

Метавселенная Цукерберга — это апофеоз стратегии подмены. Пока реальная Земля гибнет от климатического кризиса, капитализм предлагает нам «планету Б» в облаке. Это позволяет игнорировать физические пределы роста: в метавселенной можно потреблять бесконечно, пока работают дата-центры (которые, по иронии, лишь ускоряют гибель реальной планеты через потребление энергии).

Растворение границ

Профилирование уничтожает границу между публичным и приватным.Privacy (частная жизнь) объявляется пережитком прошлого. Но это не ведет к прозрачности власти; напротив, механизмы управления (алгоритмы) становятся абсолютно непрозрачными «черными ящиками». Мы живем в «обществе экспозиции», где добровольное самообнажение (селфи, посты) становится способом существования.

Политическое «МЫ» против индивидуального «Я»

Профилирование — это антиполитическая сила. Оно разбивает общество на микрониши и сообщества «по интересам», делая невозможным возникновение единого «Мы», способного на коллективное действие. Политическое решение подменяется «индивидуальной оптимизацией»: вместо запрета пластика нас «подталкивают» (наджят) правильно сортировать мусор.

Пути выхода: Университет и Власть Слов

Юнеман предлагает три рычага сопротивления:

1. Коллективизация алгоритмов: рассматривать код платформ не как частную собственность, а как общественное благо (как воздух или воду), подлежащее демократическому контролю.
2. Защита Университета: как института, хранящего норму Истины, а не Эффективности. Университет должен оставаться местом «белого времени» — пауз, размышлений и возможности ошибки, которые враждебны логике оптимизации.
3. Борьба за язык: следуя Грамши, автор призывает вернуть власть над именами. Мы должны перестать говорить на языке менеджеров и платформ. Нужно называть «инфлюенсеров» пропагандистами, а «контент» — высказыванием.

Финал: Книга Юнемана — это не просто критика технологий, это попытка восстановить «антропологию настоящего». Мы должны вернуть себе право на неэффективность, непредсказуемость и подлинный опыт, который всегда сопряжен с риском неудачи — риском, который алгоритмы пытаются навсегда стереть из человеческой жизни.

О проекте Summarizator

Summarizator — это Telegram-канал, где мы собираем саммари самых актуальных и захватывающих книг об ИИ, технологиях, саморазвитии и культовой фантастике. Мы экономим ваше время, помогая быстро погружаться в новые идеи и находить инсайты, которые могут изменить ваш взгляд на мир. 📢 Присоединяйтесь: https://t.me/summarizator