Скотт Риттер

Английская версия

Искусственный интеллект против цикла OODA (начало-конец-конец)

Искусственный интеллект преподносится как революция в военном деле. Но традиционный цикл принятия решений человеком, при правильном внедрении, сокрушит ИИ на современном поле боя.

Искусственный интеллект (ИИ) — это новый модный термин, набирающий популярность в военных кругах. Некоторые относятся к нему с пренебрежением, считая его всего лишь трюком. Другие же воспринимают ИИ как революцию в военном деле. Но на самом деле мало кто понимает, что означает ИИ с точки зрения ведения войны, и поэтому плохо подготовлен к осмысленному обсуждению этой темы.

Что такое ИИ? Согласно определению из учебников, это «применение компьютерных систем, способных выполнять задачи или производить результаты, обычно требующие человеческого интеллекта, особенно путем применения методов машинного обучения к большим массивам данных» — короче говоря, компьютеризированное мышление.

Прежде чем мы слишком увлекемся, давайте внесем ясность: компьютеры не могут «думать» и не способны к рассуждениям, подобным человеческим.

Компьютер можно запрограммировать, и это всё. И одна из программ, которую можно запрограммировать для работы компьютера, — это модификация собственной программы путем адаптации обнаруженных закономерностей в процессе обработки данных в соответствии со структурированными алгоритмами, которые затем можно представить как «анализ».

Но компьютер ничего не «анализирует». Он просто подвергает заданный набор данных ряду предварительно запрограммированных процессов, которые имитируют структуру анализа, не будучи при этом способным по-настоящему выявить его истинный смысл — необходимое условие для настоящего анализа.

Смысл — это уникальная человеческая черта, определяемая тем, что человек намеревается передать, особенно посредством языка.

Ключевое слово здесь —«намеревается», означающее иметь в виду цель или предназначение. Цель означает причину, по которой что-либо делается или создается, или по которой что-либо существует.

Компьютер не способен рассуждать(то есть, обладать способностью разума мыслить, понимать и формировать суждения посредством логического процесса), а следовательно, не может иметьцелии, как таковой, лишеннамерения, а вместе с ним исмысла.

Компьютер просто делает то, что запрограммировано.

Таким образом, главная ошибка при оценке роли ИИ в определении характера современной войны заключается в наделении компьютера человекоподобными качествами, что приводит к чрезмерной зависимости от данных, получаемых в ходе любого процесса, связанного с ИИ.

Это всего лишь данные, сгенерированные программой, подготовленной людьми — людьми, которые могут ошибаться. Логически, результат не является безупречным.

Это не является побочным продуктом какой-либо самосознательной интеллектуальной обработки данных.

Теперь сторонники ИИ будут утверждать, что они освоили определенные алгоритмические программы обработки данных таким образом, что это позволяет оценивать больше данных с использованием заранее определенной структурированной «логики», предоставляя потенциальным пользователям больше возможностей для интерпретации данных в сроки, которые экспоненциально быстрее, чем это можно было бы достичь с помощью традиционных методов анализа, применяемых человеком.

Когда речь заходит об основных принципах принятия решений во время войны, на ум приходит классическая «петля OODA» Джона Бойда. Бойд был пилотом истребителя ВВС США, известным своей способностью сбивать (на тренировках) любого пилота противника в течение 40 секунд после первого пролета. Бойд впоследствии свел процессы принятия решений, связанные с его действиями, к тому, что он назвал петлей OODA.

В общепринятом понимании цикл OODA представляет собой круговой мыслительный процесс, включающий четыре последовательных шага: наблюдение, ориентация, принятие решения, действие, которые затем повторяются.

Цикл начинается с акта наблюдения — с наблюдения за окружающей средой . Это включает в себя поглощение информации — данных — из среды, в которой человек действует. Многие считают это пассивным действием, но это далеко не так. Чтобы по-настоящему наблюдать, необходимо постоянно получать информацию из окружающей среды, включая данные, полученные в результате разворачивающихся (то есть незапрограммированных) обстоятельств, и взаимодействия с различными процессами. Это уникальное индивидуальное явление — два человека могут наблюдать одно и то же и интерпретировать это совершенно по-разному.

Ключ к наблюдению — это ориентация. Бойд рассматривал наблюдение как интеллектуальный центр тяжести цикла «наблюдение-действие-решение-действие». Ориентация — это, безусловно, индивидуальная черта, учитывающая общие предположения организации в контексте врожденных когнитивных склонностей и темперамента человека, прошлого опыта (организационного и индивидуального), способности собирать новые данные на основе текущей ситуации и способности игнорировать старые ментальные модели, одновременно строя новые.

Ориентация определяет качество всего последующего. Два аналитика, изучающие одни и те же данные, неизбежно придут к разным выводам в зависимости от своего опыта, своих предположений и готовности обновлять свои ментальные модели.

Компьютер невозможно «научить» ориентироваться—он просто будет запрограммирован на основе опыта программиста и предположений, заложенных им в модель. Компьютер становится заложником этой модели, неспособным отказаться от неё в пользу новой модели, построенной на основе вновь полученных данных.

Этот недостаток проявляется на следующем этапе цикла OODA —принятии решения.

Решения принимаются на основе гипотез или планов действий, возникающих в результате наблюдений. Но Джон Бойд не рассматривал процесс принятия решений как замкнутый цикл. Действительно, на своей первоначальной схеме цикла OODA Бойд провел линию непосредственно от«Ориентации» к «Действию», полностью обойдя этап «Решения». Бойд назвал это «неявным руководством и контролем» (IG&C), то есть чем-то, что возникает, когда человек обладает глубокими знаниями, позволяющими быстро распознавать закономерности и действовать на их основе без сознательного обдумывания. Когда человек обладает глубокими знаниями в какой-либо области, он может распознать закономерность и действовать на ее основе без сознательного обдумывания; короче говоря, это тренированная интуиция, вытекающая из глубокой ориентации.

Запрограммировать компьютер на такое поведение невозможно.

Действие— это самый основной элемент цикла «наблюдение-действие-ответ», процесс проверки выдвинутой гипотезы на соответствие реальности. Действие неизбежно генерирует новую информацию, которая затем возвращается в цикл наблюдения, и цикл повторяется.

Человек, незнакомый с теорией цикла OODA Бойда, запрограммировал бы компьютер на обработку цикла как четкой последовательности: наблюдение, ориентация, принятие решения и действие, а затем повторение.

Однако истинный цикл OODA работает одновременно в нескольких направлениях: ориентация формирует наблюдение, а действие порождает новые наблюдения, некоторые из которых могут быть использованы без прохождения формального процесса принятия решений. Полностью функционирующий цикл OODA работает непрерывно и перекрывающимся образом, а не последовательно. Он также сосредоточен на акте ориентации — способности выявлять закономерности, которые не распознал противник, а затем действовать таким образом, чтобы вызвать замешательство, ведя себя так, как не могла предсказать ментальная модель противника.

Корпус морской пехоты США включил в свою программу брифинг Джона Бойда «Модели конфликта» (презентация из 196 слайдов, подготовленная в 1976 году), в котором рассматривалась история конфликтов и разрабатывались модели поведения, применимые в современную эпоху. Генерал Эл Грей, командующий Корпусом морской пехоты с 1987 по 1991 год, взял брифинг Бойда и преобразовал его в оперативные принципы, известные как маневренная война, которые стали официальной доктриной Корпуса морской пехоты в 1989 году. Грей подчеркивал принцип замысла командира и способность подчиненных подразделений действовать на основе замысла командира без необходимости сверяться с ним для получения одобрения. Модель маневренной войны Корпуса морской пехоты представляла собой идеальное применение аспекта управления и контроля в рамках цикла «наблюдение-действие», где организация и ее составные части были настолько точно настроены друг на друга, что цикл «наблюдение-действие» сводился к последовательности «наблюдение-действие», что позволяло морским пехотинцам принимать решения на поле боя таким образом, который значительно превосходил возможности противника по реагированию.

Я стал непосредственным результатом внедрения в Корпусе морской пехоты методов маневренной войны, пройдя обучение по ним в 1984 году, когда они были впервые официально включены в цикл подготовки офицеров Корпуса морской пехоты.

Я твердо убежден, что военная организация, должным образом ознакомленная с принципами цикла OODA Джона Бойда, превзойдет организацию, которая чрезмерно полагается на обработку данных с помощью искусственного интеллекта.

Короче говоря, сам процесс гораздо важнее данных, поскольку важны только данные, полученные в ходе этого процесса.

Такие организации, как Palantir, любят представлять свою способность обрабатывать огромные объемы данных в кратчайшие сроки как радикальное новшество в военном деле.

Однако реальность такова, что компьютерная обработка данных не может воспроизвести аналитические процессы, связанные с наблюдениями, сделанными адекватно ориентированными людьми. Искусственный интеллект будет предоставлять сводные данные, полученные с помощью алгоритмов, которые, поскольку они предварительно запрограммированы, не способны разрушать ментальные модели и адаптироваться к новым моделям, полученным из новых наборов данных.

Компьютер также не может быть запрограммирован на реализацию «коллапса» цикла OODA в рамках IG&C в простую последовательность «наблюдение-действие».

В современной войне адекватный противник-человек смог бы использовать возможности ИИ таким образом, чтобы привести к поражению стороны, управляемой ИИ.

Любая сторона, которая рассматривает ИИ не просто как инструмент обработки данных, а как средство влияния на принятие военных решений, обрекает себя на поражение в борьбе с противником, в полной мере знакомым со сложностями цикла OODA Бойда.

Концепция информационного превосходства — это интеллектуальная ловушка, проистекающая из представления о том, что искусственный интеллект может собирать и обрабатывать данные быстрее, чем люди.

Умение обрабатывать информацию быстрее, чем ваш оппонент, имеет свои преимущества, в этом нет никаких сомнений.

Искусственный интеллект не «обрабатывает» информацию таким образом, чтобы это способствовало адекватному функционированию цикла «намерение-решение-действие». В лучшем случае ИИ обобщает данные с помощью алгоритмов, написанных до сбора данных. Алгоритм управляет процессом обобщения, а не сами данные.

Ключ к информационному превосходству заключается не в количестве обрабатываемых данных, а в адекватности и качестве анализа данных, наиболее важных для принятия немедленного военного решения. Наиболее важная информация для любой задачи — это информация, полученная в результате действий, происходящих в момент принятия решения.

Способность ИИ собирать и обобщать огромные массивы данных становится поведенческой характеристикой, которая приводит к формированию различимой закономерности, управляющей как ориентацией, так и наблюдением в цикле «начало — конец — действие». Наборы данных легко поддаются манипуляциям для достижения желаемого результата, что позволяет опытному противнику запутать ИИ и заставить его выдавать предсказуемые результаты, которые могут привести к поражению.

Это в равной степени относится как к информационным операциям и психологической войне, так и к классическим военным маневрам.

Искусственный интеллект представляет наибольшую опасность для тех, кто занимается современной войной. Он ослабляет интеллектуальные способности пользователя, поскольку поощряет ментальное подчинение алгоритму и, как следствие, отсутствие гибкости в плане отказа от существующих ментальных моделей в пользу новых. Цикл «начало-конец-начало» наиболее эффективен, когда им управляет хорошо подготовленный человеческий разум, способный распознавать закономерности на основе адекватной ориентации на поставленную задачу. Хотя можно предположить, что ИИ способен выполнять аналогичную функцию, это просто не так.

Такие слова, как смысл, намерение, цель и причина, имеют значения, которые исключительно связаны с человеческой природой и не могут быть воспроизведены ни одной компьютерной программой или алгоритмом.

Таким образом, главная возможность, которую предоставляет ИИ, заключается в осознании того, что он не может заменить людей в принятии решений, касающихся военных задач, связанных с международным миром, военной стратегией и глобальной безопасностью. Чем скорее ИИ будет исключен из критически важных процессов принятия решений, тем лучше.

Текущие события изобилуют примерами неудач, связанных с чрезмерной опорой на искусственный интеллект. Израиль проложил путь, интегрировав программы ИИ во все аспекты так называемой «цепочки уничтожения», связанной с его геноцидными действиями в отношении Газы и проживающих там палестинских мирных жителей. Одна программа ИИ — Lavender — используется для идентификации цели для уничтожения. Другая программа ИИ — Gospel — используется для определения местоположения цели, а третья — Fire Factory — помогает выбрать конкретное оружие, которое будет использовано для нейтрализации — уничтожения — цели. Но наиболее тревожной программой ИИ, используемой Израилем, является программа под названием «Где папа?», которая определяет, когда идентифицированная цель вернулась домой, что позволяет Израилю наносить удары и убивать всю семью, связанную с этой целью.

Используемая Израилем в секторе Газа «цепочка уничтожения», управляемая искусственным интеллектом, привела к гибели десятков тысяч человек.

Однако это не позволило Израилю одержать победу над ХАМАС.

Аналогичная модель искусственного интеллекта, основанная на анализе цепочки атак и использованная в Ливане, не позволила Израилю разгромить «Хезболлу».

В Соединенных Штатах используется платформа искусственного интеллекта под названием Maven Smart System. Представители компании Palantir, разработавшей и запрограммировавшей Maven, утверждают, что система может передавать данные о целях конкретной системе вооружения простым нажатием кнопки мыши. Отставной генерал армии США Кристофер Донахью, ранее командовавший американскими войсками в Европе, сравнил Maven с системой вооружения. Однако такое определение проблематично, поскольку подобная классификация влечет за собой юридические требования, связанные с надзором, чего Palantir и их американские военные заказчики стремятся избежать.

И на то есть веские причины — интеллектуальная система Maven от Palantir в настоящее время используется для управления военными ударами, наносимыми американскими войсками по Ирану. В результате этих ударов погибли тысячи иранцев, в том числе 168 школьников в Минабе, из-за ошибочной идентификации целей системой Maven.

Одной из причин столь плачевных результатов американских военных во время иранско-американского конфликта стала неадекватность системы наведения Maven. США исчерпали запасы высокоточных управляемых ракет, поразив тысячи целей, определенных моделью искусственного интеллекта Maven. Американские удары не только не смогли снизить способность Ирана к выживанию и поддержанию своего военного потенциала, но и истощили арсенал США в части этих конкретных типов ракет-перехватчиков, способных перехватывать приближающиеся российские ракеты.

Короче говоря, США проиграли войну с Ираном, которую сами же и выбрали, и одной из главных причин этого поражения стала абсолютная некомпетентность Maven как инструмента искусственного интеллекта для генерации целей.

Следует также отметить, что генерал Донахью рассчитывал на то, что Maven станет инструментом, способным преодолеть российскую противоракетную оборону в Калининградской области.

Провал в отношениях с Ираном — это позор.

Провал в переговорах с Россией по Калининграду может оказаться фатальным.

В ядерную эпоху просто нельзя оставлять принятие важных решений в руках инструментов искусственного интеллекта.

Программа Maven была призвана защищать жизни американцев.

Его недостатки, по сути, поставили под угрозу жизни американцев.

Соединенные Штаты также использовали искусственный интеллект в Афганистане. Эта программа, известная как «Raven Sentry», использовала информацию из открытых источников для прогнозирования атак талибов с высокой степенью достоверности.

Но «Ворон-страж» не смог предотвратить поражение Соединенных Штатов в Афганистане.

Украина использует искусственный интеллект для поражения российских автомобилей в Донбассе.

Но это не меняет того факта, что украинцы проигрывают на поле боя.

Украинцы использовали инновационные инструменты прогнозирования на основе искусственного интеллекта, чтобы спланировать вторжение под Курск в августе 2024 года, предсказав слабые места в российской обороне, которые можно было быстро использовать.

Украинские оккупационные силы в конечном итоге были уничтожены.

Исторические данные свидетельствуют о том, что внедрение ИИ в классическое военное планирование приводит лишь к провалу.

Возможно, настало время современным военным организациям вернуться к основам — развивать человеческий аспект войны, индивидуальный и коллективный интеллектуальный потенциал своих солдат/моряков/летчиков/морских пехотинцев, чтобы оптимизировать процесс принятия военных решений в соответствии с циклом OODA Джона Бойда, по крайней мере, в том виде, в котором он изначально задумывался. Наличие войск, способных адекватно реализовать «свертывание» цикла OODA в простую динамику «наблюдение-действие», гораздо больше способствует достижению победы на поле боя, чем использование неадекватных моделей искусственного интеллекта.

Подобное обучение делает упор на качество мыслительных процессов человека, а не на количество данных, тем самым сводя на нет необходимость в искусственном интеллекте.

И если бы это удалось осуществить в полном объеме, это действительно стало бы революцией в военном деле.

Потому что в наше время рациональные человеческие мыслительные процессы подскажут, что война никогда не является решением проблемы.

Ни одна программа искусственного интеллекта, созданная для поддержки войны, никогда не придет к такому выводу.