ИИ изменит характер войны
Технологии сделают войну более быстрой и непрозрачной. Это также может оказаться дестабилизирующим фактором
Компьютер родился на войне и войной. Колосс был построен в 1944 году для взлома нацистских кодов. К 1950-м годам компьютеры организовывали противовоздушную оборону Америки. В последующие десятилетия машинный интеллект играл незначительную роль в войне. Теперь это станет решающим. Точно так же, как гражданский мир является свидетелем быстрого прогресса в мощи и распространении искусственного интеллекта ( ии ), так и военный мир должен готовиться к наплыву инноваций. Хотя это и меняет характер войны , оно также может оказаться дестабилизирующим.
Сегодняшние быстрые изменения имеют несколько причин. Одним из них является горнило самой войны, особенно на Украине. Маленькие недорогие чипы регулярно направляют российские и украинские беспилотники к своим целям, расширяя масштабы технологии, которая когда-то ограничивалась ракетами сверхдержавы. Во-вторых, это недавнее экспоненциальное развитие искусственного интеллекта , позволившее добиться удивительных результатов в распознавании объектов и решении задач более высокого порядка. Третьим является соперничество между Америкой и Китаем, в котором оба видят в ии ключ к военному превосходству.
Результаты наиболее заметны в развитии интеллектуальных машин для убийства. Воздушные и военно-морские дроны были жизненно важны для обеих сторон в Украине для обнаружения и атаки целей. Роль ии заключается в решении проблемы помех, поскольку он позволяет дрону наводиться на цели, даже если сигналы gps или связь с пилотом были прерваны. Разрыв связи между пилотом и самолетом вскоре позволит армиям использовать гораздо большее количество недорогих боеприпасов . В конечном итоге будут созданы самоуправляемые стаи, способные подавлять оборону.
Но то, что наиболее заметно в военном ии, не является самым важным. Как поясняется в нашем брифинге, эта технология также революционизирует командование и контроль, которые офицеры используют для организации войн.
На передовой дроны представляют собой лишь последнее и самое драматичное звено в цепочке убийств: серию шагов, начинающихся с поиска цели и заканчивающихся атакой. Более глубокое значение ии заключается в том, что он может сделать до того, как дрон нанесет удар. Поскольку он сортирует и обрабатывает данные со сверхчеловеческой скоростью, он может выделить каждый танк из тысячи спутниковых изображений или интерпретировать свет, тепло, звук и радиоволны, чтобы отличить приманку от настоящей.
Вдали от линии фронта он может решить гораздо более серьезные проблемы, чем те, с которыми сталкивается одиночный дрон. Сегодня это означает простые задачи, такие как определение того, какое оружие лучше всего подходит для уничтожения угрозы. Со временем «системы поддержки принятия решений», возможно, смогут быстро и на большой территории осознать сложную сложность войны — возможно, на всем поле боя.
Последствия этого только сейчас становятся ясными. Системы искусственного интеллекта в сочетании с автономными роботами на суше, на море и в воздухе, вероятно, будут находить и уничтожать цели с беспрецедентной скоростью и в огромных масштабах.
Скорость такой войны изменит баланс между солдатом и программным обеспечением. Сегодня армии держат человека «в курсе», одобряя каждое смертоносное решение. Поскольку поиск и поражение целей занимает минуты или секунды, человек может просто «сидеть в курсе событий» как часть человеко-машинной команды. Люди будут контролировать систему, не вмешиваясь в каждое ее действие.
Парадокс заключается в том, что даже несмотря на то, что ии дает более четкое представление о поле битвы, война рискует стать более непрозрачной для людей, которые сражаются в ней. Будет меньше времени, чтобы остановиться и подумать. По мере того, как модели выносят все более пророческие суждения, их результаты становится все труднее анализировать, не уступая врагу смертельного преимущества. Армии будут опасаться, что, если они не дадут своим советникам по искусственному интеллекту более длинный поводок, они будут побеждены противником, который это сделает. Более быстрые бои и меньшее количество пауз затруднят переговоры о перемирии или прекращении эскалации. Это может быть в пользу защитников, которые могут присесть на корточки, пока атакующие вырывают укрытие по мере продвижения. Или это может побудить злоумышленников нанести упреждающий удар с применением огромной силы, чтобы разрушить датчики и сети, от которых будут зависеть армии с поддержкой ии .
Масштаб войны, основанной на искусственном интеллекте, означает, что массовый и промышленный вес, вероятно, станет даже более важным, чем сегодня. Вы можете подумать, что новые технологии позволят армиям стать более компактными. Но если программное обеспечение сможет обнаружить десятки тысяч целей, армиям потребуются десятки тысяч единиц оружия, чтобы поразить их. А если преимущество будет у обороняющегося, то атакующим понадобится больше оружия, чтобы прорваться.
Это не единственная причина, по которой война ии выгодна большим странам. Дроны могут стать дешевле, но цифровые системы, объединяющие поле боя, будут чертовски дорогими. Создание армий, оснащенных искусственным интеллектом , потребует огромных инвестиций в облачные серверы, способные обрабатывать секретные данные. Армии, флоты и военно-воздушные силы, которые сегодня существуют в своих собственных хранилищах данных, должны быть интегрированы. Обучение моделей потребует доступа к огромным массивам данных.
Какую большую страну ии предпочитает больше всего? Когда-то считалось, что Китай имеет преимущество благодаря своему пулу данных, контролю над частной промышленностью и более мягким этическим ограничениям. Однако сейчас Америка, похоже, находится впереди в передовых моделях, которые могут сформировать следующее поколение военного ии . И идеология имеет значение: неясно, смогут ли армии авторитарных государств, которые ценят централизованный контроль, использовать преимущества технологии, которая выводит интеллект и проницательность на самые низкие тактические уровни.
Если, к сожалению, первая война с использованием искусственного интеллекта действительно разразится, международное право, скорее всего, будет отодвинуто на второй план. Тем больше оснований задуматься сегодня о том, как ограничить разрушения. Например, Китаю следует прислушаться к призыву Америки исключить контроль искусственного интеллекта над ядерным оружием. А как только начнется война, горячие линии между людьми станут более важными, чем когда-либо. Системы искусственного интеллекта , призванные максимизировать военное преимущество, должны быть закодированы ценностями и ограничениями, которые человеческие командиры воспринимают как должное. К ним относятся неявное значение человеческой жизни (сколько мирных жителей допустимо убить, преследуя важную цель?) и избегание определенных дестабилизирующих ударов, таких как удары по ядерным спутникам раннего предупреждения.
Неопределенности глубоки. Единственное, что можно сказать наверняка, это то, что перемены, вызванные искусственным интеллектом, приближаются. Армии, которые предвидят и осваивают технологические достижения раньше и наиболее эффективно, вероятно, одержат победу. Все остальные, скорее всего, станут жертвами. ■