Иллюзия контроля
«Первое правило магии: чем ближе зритель, тем меньше он видит.» — Дэниел Атлас, «Иллюзия обмана»
“Кто-нибудь хочет устроить вечеринку в Сан-Франциско и показать это на 100-дюймовом телевизоре?” — Автор поста на «X» об онлайн-аналитической панели, отслеживающей американо-израильские удары по Ирану в режиме реального времени.
В фильме «Иллюзия обмана» четверо гениальных иллюзионистов, называющих себя «Всадниками», совершают дерзкие ограбления прямо во время своих шоу, бросая вызов не только правоохранителям, но и самой реальности. Их секрет — не сверхъестественные способности, а виртуозное управление вниманием. Чем пристальнее зрители и агенты ФБР всматриваются в происходящее, тем вернее они упускают истинный фокус событий. «Истина часто скрыта на виду — люди верят в то, что хотят видеть», — поясняет герой фильма.
Дашборд, созданный сотрудниками венчурной компанией Andreessen Horowitz, сочетает в себе данные из открытых источников, такие как спутниковые снимки и отслеживание кораблей, с функцией чата, новостными лентами и ссылками на рынки прогнозов, где пользователи могут делать ставки на такие вещи, как, например, нанесет ли Израиль ядерный удар по Ирану, а недавний выбор Моджтабы Хаменеи оставил некоторых игроков с выплатами.
На самом деле, таких панелей мониторинга после начала конфликтов появилось уже более десятка, часто «завайбкоденых» за пару кликов с помощью инструментов искусственного интеллекта, в том числе и spatialintelligence.ai, которая привлекла внимание основателя разведывательного гиганта Palantir, платформы, через которую американские военные получают доступ к моделям искусственного интеллекта, таким как Claude во время войны. Почти все эти платформы рекламируются их создателями как способ победить медленные и неэффективные СМИ, добравшись прямо до правды о том, что происходит на местах.
Инструменты искусственного интеллекта делают более доступным для широкой публики сбор информации из открытых источников, а чат-боты могут предложить быстрый, хотя и сомнительный, анализ этих данных. Рост фальшивого контента заставляет наблюдателей за войной нуждаться в необработанных данных и точном анализе, обычно доступным только разведывательным службам. Спрос на эти информационные панели также подогревается рынками прогнозирования в реальном времени, которые обещают финансовое вознаграждение любому, кто достаточно информирован. А тот факт, что американские военные используют Anthropic's Claude в конфликте, дает пользователям намек, что искусственный интеллект - это инструмент разведки, который используют профессионалы.
Но в этом и кроется главная опасность. Как отмечает эксперт по цифровым расследованиям Крейг Сильверман, возникает «иллюзия того, что ты на вершине событий и контролируешь ситуацию, когда все, что ты на самом деле делаешь, — это просто собираешь тонну сигналов и не обязательно понимаешь, что ты видишь».
Многие информационные панели содержат “каналы разведки” с генерируемыми искусственным интеллектом сводками сложных, постоянно меняющихся новостных событий и даже сгенерированными ИИ спутниковыми снимками. По замыслу данные не подвергаются особому контролю. Вместо этого каналы просто отображают все сразу, с картой мест проведения забастовок в Иране рядом с ценами на малоизвестные криптовалюты. В отличие от этого, разведывательные службы связывают потоки данных с людьми, которые могут поделиться опытом и историческим контекстом. Они также, конечно, имеют доступ к конфиденциальной информации, которая не отображается в открытом Интернете. ИИ превосходно справляется со сбором данных, но он бессилен в их интерпретации без контекста, которым обладают профессиональные разведывательные службы и качественная журналистика.
Не надо упускать из вида и связь всего этого с рынками ставок. На информационной панели, созданной в Andreessen Horowitz, есть прокручивающийся список ставок, сделанных на платформе прогнозирования Kalshi (в которую инвестировал Andreessen Horowitz). Другие информационные панели ссылаются на Polymarket, предлагая ставки на то, нанесут ли США удар по Ираку или когда вернется иранский интернет. Это несомненно создает мощный стимул для публики и усиливает ощущение тотального контроля и вовлеченности.
Подобно зрителям в фильме, которые аплодируют трюку, не замечая главного обмана, мы рискуем стать жертвами новой, технологически совершенной иллюзии. Вместо ясности генеративный ИИ порождает информационный хаос, превращая трагедию войны в интерактивный театр, где грань между реальностью и симулякром стирается окончательно.
Дэниел Атлас, виртуозный иллюзионист из фильма, заявляет своей аудитории: «Вы видите то, что мы хотим, чтобы вы видели». Эта фраза как нельзя лучше описывает работу современных ИИ-дашбордов, освещающих удары по Ирану. Инструменты искусственного интеллекта действительно совершили прорыв: сегодня любой человек без специальных технических навыков может собрать разведывательные данные из открытых источников и представить их в виде эффектной интерактивной карты. Но чем пристальнее пользователи всматривается в аналитические панели, наполненные сгенерированным ИИ контентом, тем вернее они теряют контроль над собственными решениями. Контроль же в действительности остается у тех, кто находится в петле обратной связи с ИИ и формирует истинный контекст.