Глава 4. МАЛЬЧИК, КОТОРЫЙ КРИЧАЛ «AI»

В старой сказке мальчик кричал «волки», пока ему не перестали верить. Сказка, как водится, была воспитательной, но слишком оптимистичной. В современном технологическом рынке мальчик кричал бы не «волки», а «AI», и ему бы не перестали верить. Ему бы дали раунд инвестиций, пригласили на конференцию, поставили на сайт логотип «AI-powered» и попросили выступить на панели «Как искусственный интеллект меняет будущее отрасли».

Волки, конечно, тоже пришли бы.

Но уже как часть презентации.

Слово «AI» за последние годы стало не технологическим термином, а универсальным корпоративным ароматизатором. Им можно побрызгать почти на что угодно. Был поиск по базе знаний — стал AI-search. Был чат-бот на дереве сценариев — стал AI-assistant. Была статистическая модель скоринга — стала cognitive decisioning platform. Был набор правил в антифроде — стал autonomous fraud intelligence. Был старый добрый SIEM с корреляционными правилами — стал AI-driven security operations brain. Был Excel с макросом — пока ещё Excel с макросом, но это временно, маркетинг уже идёт.

Справедливости ради надо сказать: искусственный интеллект действительно многое меняет. В этой книге мы уже успели достаточно напугать читателя, чтобы теперь не делать вид, будто всё это просто мода. Модели пишут код, анализируют логи, помогают атакующим, помогают защитникам, ошибаются, врут, ускоряют, путают, пересказывают, генерируют, подсказывают и иногда делают вид, что поняли мир лучше нас. Это реальный сдвиг.

Именно поэтому маркетинговая подмена особенно вредна.

Когда всё называют AI, перестаёт быть понятно, где действительно новая способность, а где старая автоматизация в свежем костюме. Слово размывается. Покупатель устает. Инвестор возбуждается. Регулятор нервничает. Безопасник морщится. А плохой продукт получает шанс спрятаться за хорошим термином.
Вирусные аналитики старой школы это уже видели. Когда-то каждый антивирус вдруг стал «эвристическим». Потом «облачным». Потом «поведенческим». Потом «next-gen». Потом «EDR». Потом «XDR». Потом «AI». Иногда за вывеской действительно была новая технология. Иногда — тот же движок, те же сигнатуры, тот же старый код, только на слайде появилась стрелочка в нейронную сеть.

Стрелочки вообще многое пережили в истории кибербезопасности.

#

В одной компании выбирали новый продукт для SOC. Старый набор инструментов уже не справлялся: алертов много, аналитиков мало, руководство хотело эффективности, а поставщики чувствовали запах бюджета, как акулы чувствуют кровь в воде. На рынок вышли красиво. Запросили предложения. Назначили демо. Позвали безопасность, IT, закупки, архитекторов, пару аналитиков и одного финансового человека, чтобы он сидел молча, но всем напоминал, что у презентации есть цена.

Первые три вендора пришли с одинаковой уверенностью. У всех был AI. У одного — «автономный аналитик». У второго — «самообучающаяся платформа киберустойчивости». У третьего — «агентная система принятия решений в реальном времени». Все обещали снизить шум, ускорить расследования, автоматически приоритизировать инциденты, выявлять неизвестные угрозы, помогать первой линии, строить таймлайны, писать отчёты и, судя по тону, где-то между делом вернуть молодость операторам SOC.

Демо выглядели отлично. На экране появлялся инцидент. Система сама собирала события, связывала процессы, показывала пользователя, хосты, подозрительные команды, сетевые подключения, похожие случаи, рекомендации и красивый verdict. Аналитик в демо нажимал две кнопки, и всё становилось понятно. В реальном SOC аналитик обычно нажимает двадцать кнопок, открывает четыре системы, ругается на задержку логов, пишет коллеге «ты это видел?», получает ответ «я на обеде», потом понимает, что алерт пришёл из-за теста админа, который забыл предупредить. Но демо, конечно, должно показывать не реальность, а надежду.

После третьей презентации молодой менеджер из закупок сказал:

— Кажется, все примерно одинаковые.

Старший аналитик SOC ответил:

— Нет. Они одинаково говорят.

#

Чтобы отделить продукт от пены, решили провести техническую сессию без маркетинга. Это жестокий формат. Вендор приходит, а ему не дают спокойно показывать слайды про «единое окно», «снижение MTTR» и «проактивную киберустойчивость». Вместо этого спрашивают неприятное.

Что именно у вас AI?
Где правила, где классический ML, где LLM?
Какие решения система принимает сама?
Какие только рекомендует?
На каких данных обучалась модель?
Можно ли отключить отправку данных в облако?
Как объясняется приоритизация?
Что происходит при ложном срабатывании?
Какие метрики качества есть не на демо, а у клиентов?
Как система ведёт себя на кастомных логах?
Что будет, если источник данных неполный?
Как вы защищаетесь от prompt injection в описаниях событий и тикетах?
Можно ли посмотреть пример, где ваша система ошиблась?

Последний вопрос особенно хорош. Нормальный инженер на него отвечает: «Да, конечно, вот типы ошибок, вот ограничения, вот что мы делаем». Маркетинговый шаман начинает говорить: «Наша платформа постоянно совершенствуется и использует многослойный подход». В переводе: ошибок мы не покажем, потому что на этом слайде должна была быть диаграмма.

Один вендор заметно занервничал уже на вопросе «что именно у вас AI». Оказалось, что большая часть продукта — набор правил корреляции, поведенческие пороги и старые модели аномалий. Ничего плохого в этом нет.
Правила полезны. Пороговые модели полезны. Классическое машинное обучение полезно. Беда была в том, что всё это продавалось как «автономный AI-аналитик», хотя автономность заключалась в том, что система сама ставила severity по таблице. Таблица, дорогой читатель, тоже может быть хорошей. Но если таблица называет себя интеллектом, у нас начинается жанровый кризис.

Второй вендор действительно использовал LLM, но в основном для красивого summary. Система не принимала решения, не находила угрозы сама, не понимала среду клиента. Она брала уже сработавшие алерты и переписывала их человеческим языком. Это тоже полезно. Очень полезно, если у вас аналитики устали читать логи, а руководители хотят отчёты не в формате «src_ip dst_ip proc_name». Но это не «AI, который обнаруживает неизвестные атаки». Это хороший переводчик с SIEM-ского на человеческий. Продавать переводчика как охотника на драконов — нехорошо.

Третий вендор оказался самым честным. Он сказал:

— У нас три слоя. Первый — обычные детекты и правила. Второй — ML для аномалий и группировки похожих событий. Третий — LLM для объяснения, резюмирования, помощи аналитику и генерации черновиков playbook. Автоматически мы ничего критичного не блокируем без согласования. Вот где модель ошибается. Вот где ей нужен контекст. Вот как мы логируем источники. Вот как можно ограничить данные.

В комнате стало скучнее.

И именно поэтому все наконец начали слушать.

#

Вендоры, конечно, не единственные виновные. Клиенты сами хотят сказку.

Руководству хочется услышать, что нехватку аналитиков решит платформа. Бизнес хочет, чтобы риск снизился без найма людей, обучения, изменения процессов и неприятных разговоров о старых системах. Финансы хотят понятный ROI. Закупки хотят сравнимые критерии. А CISO иногда хочет продукт, который можно показать совету директоров: смотрите, мы внедрили AI, теперь мы современные и не такие беспомощные перед будущим.

Поставщик просто приходит туда, где уже есть спрос на чудо.

Если клиент хочет чудо, рынок принесёт ему чудо в коробке. С лицензией на три года, внедрением за отдельные деньги и roadmap, где настоящие возможности появятся «в следующем квартале».

Старые безопасники знают: ни один продукт не заменяет процесс. Хороший продукт усиливает нормальный процесс и иногда скрывает кривой, но ненадолго. Если у вас нет нормальных логов, AI не создаст их из воздуха. Если активы не учтены, модель не догадается, что забытый сервер в филиале держит важный процесс. Если playbook не описан, ассистент будет писать красивые общие рекомендации. Если аналитиков не учат думать, AI даст им уверенный текст, который они будут копировать в тикеты. Если доступа у системы слишком много, она станет риском. Если данных слишком мало, она будет галлюцинировать. Если данных слишком много, юристы придут с вопросами.

AI — усилитель.

А усилитель усиливает не только музыку, но и шум.

#

В процессе выбора продукта компания придумала простой тест. Каждого вендора просили разобрать один и тот же небольшой инцидент на подготовленных, но не игрушечных данных. Не идеальная демо-цепочка, а грязная мини-реальность: неполные логи, один легитимный админский скрипт, один подозрительный PowerShell, несколько похожих событий, старая учётка подрядчика, странное сетевое соединение, шум от обновления ПО. Никаких секретов, никакой ловушки уровня олимпиады, просто обычный рабочий хаос.

Результаты оказались показательнее всех слайдов.

Первый продукт уверенно объявил инцидент высококритичным, потому что увидел PowerShell и необычное соединение. Не учёл, что такой скрипт еженедельно запускался админом, а соединение шло к легитимному сервису обновления, просто домен выглядел некрасиво. Второй продукт сделал красивый summary, но не смог объяснить, почему приоритет средний, а не высокий. Третий продукт честно сказал: «Недостаточно данных, нужны логи аутентификации за такой-то период, история хоста, проверка parent process и подтверждение владельца скрипта». С точки зрения демо это выглядело менее эффектно. С точки зрения SOC это был лучший ответ.

Потому что хороший аналитик не всегда тот, кто быстро выдаёт вердикт. Иногда хороший аналитик говорит:

— Я пока не знаю. Вот что надо проверить.

Если AI-система умеет признавать нехватку данных, это важнее, чем если она умеет писать уверенное эссе о kill chain.

#

Параллельно закупки пытались сравнить коммерческие предложения. Там был другой цирк. Один продукт лицензировался по числу endpoints, второй по объёму событий, третий по числу аналитиков, четвёртый по «AI credits», пятый по какому-то смешанному показателю, который, кажется, придумали специально, чтобы клиент не мог сравнить ни с чем. AI credits — отдельная красота. Раньше компания знала, что покупает: хосты, гигабайты логов, пользователей, модули.

Теперь она покупает «единицы интеллекта», которые заканчиваются в середине месяца, потому что кто-то попросил ассистента слишком подробно объяснить цепочку событий.

Финансовый человек, до этого молчавший, наконец спросил:

— Как мы прогнозируем стоимость использования?

Вендор сказал:

— Это зависит от активности.

— От чьей?

— От вашей среды и запросов аналитиков.

— То есть чем больше у нас инцидентов и чем больше мы пользуемся системой, тем дороже?

— Ну… модель потребления отражает ценность.

Финансовый человек посмотрел так, как смотрят люди, умеющие читать договоры на облако.

AI не только меняет технические риски. Он меняет экономику продукта. Если каждый запрос к модели стоит денег, пользователи начинают экономить на вопросах или, наоборот, сжигают бюджет. Если в цену заложено облачное вычисление, надо понимать лимиты, кэширование, локальные режимы, деградацию при исчерпании квоты. Если система в критический момент говорит «лимит запросов исчерпан», это уже не ассистент, а платная форма предательства.

К слову «AI» теперь надо добавлять вопрос:

— А сколько стоит его мысль?

#

В итоге компания выбрала не самого громкого поставщика. Выбрала того, кто честнее описывал границы. Это было не романтично. У него не было слайда «заменим 80% ручного труда». Он обещал меньше. Зато показывал, где реально помогает: группировать события, строить черновики расследований, объяснять алерты младшим аналитикам, предлагать проверки, генерировать отчёты, уменьшать время на рутину. И показывал, где не помогает: без нормальных логов, без владельцев активов, без базовых детектов, без контекста, без обучения команды.

После пилота выяснилось, что продукт действительно полезен. Не как волшебная голова в банке, а как хороший инструмент. Аналитики быстрее разбирали часть алертов. Новички лучше понимали цепочки. Отчёты стали чище. Старшие всё равно проверяли выводы. Автоматических чудес не случилось. Никто не сократил половину SOC. Зато команда стала чуть менее уставшей и чуть быстрее.

Иногда это и есть настоящая победа технологии.

Не революция.

А минус двадцать минут ручного ада на каждом типовом инциденте.

Но попробуй продать это на конференции. Скажут: «Недостаточно вдохновляюще». Поэтому рынок и любит кричать «AI» громче, чем нужно.

#

Каждая эпоха приносит своё волшебное слово, вокруг которого строятся стенды, буклеты, вебинары и надежда, что наконец-то кто-то решит проблему вместо нас.

Проблема, как назло, остаётся.

Новые технологии нужны. Без них уже нельзя. Но каждый раз, когда рынок превращает технологию в заклинание, безопасникам приходится делать одну и ту же скучную работу: открывать коробку, смотреть внутрь, задавать вопросы, проверять на грязных данных, искать ограничения и выяснять, что именно покупается за красивые деньги.

Вирусный аналитик не верит имени файла.

Покупатель безопасности не должен верить имени продукта.

Даже если там написано AI большими буквами и градиентом.