Отчёт NSCAI

Некоторое время назад спецкомиссия по национальной безопасности США разразилась многостраничным отчётом, как правильно жить в условиях грядущего искусственного интеллекта. В документе рассматривается множество аспектов ИИ, вариантов применения соответствующих технологий в благих и не очень целях, а также интересующий всех вопрос о боевых роботах. Особо впечатлительные граждане назвали это Стратегией, Как Победить Китай!!!11, Ватфор же не хочет спамить в мозги читателям пафосными заголовками, а постарается передать суть и прокомментировать.

Основная мысль документа — ИИ это настоящая революция в жизнедеятельности человека и чуть ли не самая важная ступень развития цивилизации с момента изобретения колеса, а то и бутерброда. Именно вокруг соответствующих технологий надо построить институты будущего, «иначе нас сомнут». Авторы решительно отвергают мысль об эволюционном развитии государственных институтов и предлагают как минимум соорудить отдельную структуру, занимающуюся исключительно технологической стратегией. Также документ предлагает реформировать образование, перефокусировать его на естественные и математические науки и активно импортировать высококвалифицированные кадры из-за рубежа.

Авторы видят Китай основным технологическим конкурентом и считают основной его слабостью малый вклад в фундаментальные исследования. Поэтому предлагается ограничить к ним доступ более строгими режимами доступа к интеллектуальной собственности; в качестве прочих мер неявно подразумевается втягивание соседей Китая в антикитайский технологический блок. Отдельной строкой проходит развитие цифровых технологий во имя демократических ценностей; Ватфору очень нравятся такие рассуждения о цели технологий и невозможно не вспомнить, как десять лет назад прогрессивные мыслители считали Твиттер и соцсети в целом надеждой для ростков демократии, а буквально несколько лет спустя что-то пошло не так. В целом возможность принципиального разделения «демократических» и «авторитарных» технологий автору этих строк кажется сомнительной, если конечно, речь не идёт о публичных заявлениях, где в военное время синус может равняться четырём, ОТРК превращаться в тыкву, а молекулы природного газа нести свободу и независимость.

Рассуждая на темы обороны и безопасности, авторы документа сходу приветствуют читателя фразой расширенное толкование понятия национальной безопасности, от которой становится тепло и приятно на душе всем, кроме юристов-международников, которым Ватфор готов скинуться на антидепрессанты. Про автономные боевые системы отчёт не менее резко проговаривает их общую полезность и желательность разработки. Для уменьшения связанных рисков авторы советуют обсудить вопросы влияния ИИ на стабильность с русскими и китайцами, принять политическую декларацию на уровне «только человек может авторизовать использование ядерного оружия» и создать международные стандарты разработки боевых автономных систем.

Часть документа, посвящённая конкретным предложениям, кажется более цельной и даже в чём-то интересной не только для американских законодателей. Министерству обороны предлагается принять принцип software first и создать стандарты взаимодействия на уровне программ, наборов данных и методов анализа, не только обязательные для подрядчиков, но и доступные внутри ведомства; также в списке предложений числится включение основ новых технологий в образовательную программу кадровых офицеров. Эта мысль повторяется, когда авторы говорят о необходимости развития технически компетентных кадров на государственной службе. Насколько реалистично представление о разработке приложений для анализа данных в самом оборонном ведомстве, судить сложно, однако стандартные интерфейсы позволяют не плодить зоопарки похожих систем, а техническая грамотность даёт возможность операторам понять пределы способностей программно-аппаратной базы и принимать более осмысленные решения.

В списке предлагаемых мер стоит отдельно выделить процессы, нацеленные на прозрачность применяемых государством и частными структурами систем, использующих алгоритмы ИИ. Учитывая, что и в России цифровые технологии медленно, но верно проникают во все сферы жизнедеятельности, совершенно не мешает ознакомиться с довольно конкретными предложениями по повышению доверия в цифровые системы в целом и алгоритмы ИИ в частности.

Документ оставляет смешанное впечатление. Предлагаемые инициативы кажутся разумными, пока они не покидают рамки собственно цифровых технологий; в то же время авторам отчёта в некоторых пассажах очевидно, сложно остановиться, и они переходят с ИИ на кибербезопасность, с кибербезопасности на облачные технологии, с облачных технологий на 5G, с 5G на биотех и животноводство. Нельзя отрицать некоторое пересечение этих тем, но в то же время сложно воспринимать документ с настолько глобальным размахом иначе, чем «да, вот этот список технологий важен и надо его развивать». Отдельные пассажи повторяют прописные истины вроде «нужно больше денег», одновременно отчёт содержит вполне цельные, детальные предложения, вплоть до законодательных инициатив.

Наиболее спорным кажется тезис о собственно революционности технологий, связанных с ИИ. Конечно, если взять весь пласт знаний, требующих доступа к компьютеру, то получается, что практически ничего без цифровых систем сейчас сделать невозможно. Фактически же всё то, что мы называем искусственным интеллектом, продолжает эволюцию автоматизации труда и государственным аппаратам пора бы принять эту реальность, существующую в том или ином виде десятки лет, начиная как минимум с оптимизации трудовых процессов и прочего исследования операций.

Отчасти кажется, что авторы мечутся между позициями технологического протекционизма с одной стороны и продвижения открытости среди всех желающих с другой. Вполне возможно, что среди авторов документа не было согласия, где именно должен быть баланс между интересами национальной безопасности США и морально-технологическим лидерством.

В итоге документ стоит рассмотреть как минимум как, с одной стороны, результат дискуссии, и, с другой стороны, фиксация основного спектра мыслей и вероятный путь развития технологического противостояния, вне зависимости от того, что из конкретных предложений претворится в реальность. Кое-что из предложений, на наш взгляд, стоит рассмотреть с точки зрения применимости в России.

В частности, и среди родных осин государственным структурам было бы полезно договориться о стандартных программных и не только интерфейсах во славу богам унификации, а также об общем повышении цифровой и технологической грамотности среди граждан в целом и внутри государственных ведомств в частности для более осмысленного проведения технологической и не только политики. Даже если внутри ведомств не обязательна собственно разработка рабочего инструментария, понимание технологий поможет более эффективно формулировать, какие именно решения подходят для имеющихся проблем. Также кажется не лишним выстраивание государственной стратегии, исходя из технологических соображений; в частности, и для России актуально сохранение и расширение спектра высокотехнологических компетенций, для чего была бы совсем не лишней кооперация с иностранными партнёрами, в том числе в фундаментальных исследованиях, и понимание, как делить интеллектуальную собственность.

В законодательном поле нам кажутся стоящими рассмотрения рассуждения о необходимости правовой базы для аудита, в том числе публичного, систем с ИИ-компонентами. И, конечно же, общие рассуждения о надёжности систем распознавания образов (достигаемой в том числе аудитами, «красными командами», стандартными наборами данных), конечно, в целом цитируют букварь, но мысль о стандартизации практик на уровне ГОСТа, на манер, скажем, ISO 26262 в целом кажется перспективной. Чем раньше удастся включиться в процесс стандартизации, тем проще в перспективе входить в рынок услуг.