Компьютеризованное будущее: искусственный интеллект и его роль в обществе

Введение

Книгу открывает предисловие, написанное многолетним юристом, а ныне президентом компании Брэдом Смитом и руководителем исследований в сфере ИИ Гарри Шамом, чей интерес преимущественно сосредоточен на компьютерной графике и компьютерном зрении. Три главы книги, посвященные возможностям компьютеризации, этическим принципам и законам, связанным с искусственным интеллектом, а также грядущим изменениям на рынке труда, необходимой реформе образования и социальным сдвигам, основаны на докладах соответствующих отделов Microsoft. Иными словами, это не выражение личной точки зрения, а корпоративный манифест лидера в области разработки искусственного интеллекта, отчетливо представляющего себе и преимущества, и юридические и социальные последствия повсеместного внедрения ИИ.

Присутствие цифровых технологий в бизнесе, в управлении, в жизни стало настолько обыденным, что мы с трудом вспоминаем состояние «до» — без текстового процессора, интернета, навигаторов, компьютерной томографии, банковских карт, электронных баз данных. Следующий этап прогресса — развитие искусственного интеллекта (ИИ) — сделает присутствие технологий повсеместным и еще более вкрадчивым, мы едва ли будем замечать, как личный секретарь договаривается с другими личными секретарями; медицина, образование, прием на работу и сама работа, управление компаниями и государствами — все уже сейчас в значительной степени полагается на цифровые технологии.

Манифест Microsoft-2018 в понятной и доступной для всех пользователей форме разбирает три взаимосвязанных вопроса.

1) Как устроен и какую пользу принесет в ближайшие двадцать лет искусственный интеллект и как обеспечить его доступность в глобальном масштабе.

ИИ должен быть помощником и дополнением человека, открывающим новые возможности перед всеми, демократичным и индивидуализированным инструментом. Он освободит человека от рутинных задач, восполнит недостающие функции инвалидам, обеспечит быстрое и точное медицинское и юридическое сопровождение, сэкономит нам время для собственно человеческих дел и задач.

2) Какие риски, невольные ошибки и намеренное злоупотребление возможны в этой сфере и как их предотвратить на законодательном уровне, а также внедряя корпоративную и пользовательскую этику.

Особо выделяются проблемы защиты личности, монополизации, социальной справедливости. В этих сферах всегда будут проблемы, и ключом к их решению Microsoft считает опережающее развитие законодательства, выстраивание и воспитание этики в условиях изменившегося мира, сохранение человеческого контроля над действиями ИИ.

3) Как распространение ИИ скажется на рынке труда, существует ли угроза «вытеснения человека», какие стратегии обучения на личном уровне и социальные программы на государственном и международном уровне отвечают вызовам ближайшего будущего.

Компания Microsoft формулирует собственную позицию — всеобщей доступности цифровых технологий, инклюзии и равенства — и берет на себя обязательства лоббировать принятие соответствующих законов, распространять знания и учитывать эти принципы в технических решениях при создании программных продуктов.

1. Человек и его ИИ

1.1. Искусственный интеллект — ИИ (англ. AI) является высшим этапом развития технологий. На заре компьютерной эры Алан Тюринг задавался вопросом, сумеет ли машина «думать». Знаменитый тест Тюринга признает разумной машину при условии, что в заочном общении человек не сможет отличить ее от другого человека.

Такого уровня недавно достиг шахматный компьютер, научившийся не только просчитывать варианты, но и блефовать, то есть учитывать человеческую реакцию противника.

1.2. Говоря об искусственном интеллекте, мы подразумеваем собственно IQ, в то время как эмоциональный интеллект, EQ, остается прерогативой человека, но только активная его составляющая: «машина» не способна испытывать эмоции, но ее можно обучить их распознавать по выражению лица, интонациям, нюансам речи.

Распознавать эмоции в каком-то смысле умел даже примитивный детектор лжи. Современные программы распознают сотни нюансов, сравнивая паттерны из базы данных, и оценивают надежность потенциального партнера или клиента.

1.3. ИИ, как высший продукт цифровых технологий, обладает способностью учиться и логическим мышлением, приближенным к человеческому. Он общается с внешним миром и обрабатывает информацию более естественно и гибко, чем прежние программы с заданной рутиной действий. Для этого машине требуется:

• умение воспринимать и распознавать естественные объекты и речь;

В 2017–2018 гг. Microsoft выводит на рынок распознаватель речи, не уступающий обученным расшифровщикам, и обучает компьютер распознавать объекты в видеозаписи и на фотографии с той же точностью, с какой это делает человек.

• способность выделять основную информацию и подбирать релевантную.

Реклама в стиле «вас также может заинтересовать» строится как раз по такому принципу: программа не только выдает запрошенную информацию, но и делает выводы о том, что еще может оказаться релевантно для клиента. По такому же принципу будет работать «личный секретарь»-ИИ — с той разницей, что подбор информации и предложения будут максимально индивидуализированы.

• База данных состоит не из набора объектов, а из графов, то есть объектов и всей совокупности связей между ними. Именно это позволяет ИИ распознавать паттерны и затем сопоставлять с ними поступающую информацию, то есть ИИ, как и человек, делает выводы на основании своего опыта (= базы данных).

Принципиальное отличие ИИ, залог его обучаемости — способность исследовать не только объекты, но и совокупность отношений, которые неисчерпаемы.

• Обучение ИИ строится по человеческому принципу нейронной сети — формирования связей между отдельными ячейками памяти.

1.4. «Очеловечивание» ИИ нужно не для того, чтобы заменить человека или установить контроль высшего разума, а чтобы машина могла наилучшим способом помогать человеку. Одно из основных направлений исследований и усовершенствований — «личный секретарь». В мире будущего такой помощник будет у каждого.

Вслед за Siri компания Microsoft вывела на рынок Cortana (встроена в Windows 10). Этот личный помощник повинуется голосовым командам, ищет нужную информацию в Bing (распознавая запрос в любой формулировке и учитывая все прежние запросы), оповещает о важных событиях, выполняет рутинную работу. Компания предвидит в дальнейшем миллиарды самостоятельных Cortana, которые будут подбирать и выкладывать «на стол» хозяину новости и вытяжки из документов, общаться друг с другом, составляя график встреч, меню ужина, маршруты отпуска и т. д. То есть ИИ будет прекрасно знать своего человека и сможет наилучшим образом подготовить принятие решений.

1.5. Особая роль отводится ИИ в сопровождении инвалидов. Уже разработаны программы, восполняющие недостающее зрение, слух или речь, «сами знающие», какая помощь нужна в тот или иной момент. Это направление разработок способствует индивидуализации с учетом конкретных потребностей заказчика.

Первый синтезатор речи, сделанный для Стивена Хокинга в 1985 году, не только совершенствовался в плане управления по мере того, как Стивен утрачивал подвижность сначала пальцев, а потом и мимических мышц, но и подстраивался под пациента, распознавая типичные для него паттерны мысли и выражений.

1.6 Умение распознавать паттерны и делать на этом основании выводы позволяет внедрять ИИ во все сферы, где требуется осмысленная обработка больших объемов информации, — в логистику, управление транспортом, медицину, юриспруденцию.

В InnerEye заложены базы сканов раковых опухолей. Эта программа за несколько минут анализирует сотни снимков, сделанных МРТ, и выделяет участки под лучевую терапию. Вручную у онколога на это уходили часы, и не было возможности сопоставить все возможные варианты, а значит, вероятность ошибочных решений была выше.

1.7. В ближайшие 20 лет искусственный интеллект возьмет на себя рутинную, поисковую и подготовительную работу в медицине, юриспруденции, образовании, управлении. Он будет предлагать человеку готовые решения с учетом выбиравшихся ранее стратегий. Это возлагает на компании и официальные органы двойную ответственность: просвещать, распространять знания, чтобы люди не чувствовали отчуждения в «дивном новом мире», а напротив, могли воспользоваться его возможностями — и готовить законодательные акты и формулировать этику, сохраняющую при новом мироустройстве основополагающие человеческие ценности.

2. Шесть законов ИИ

Искусственный интеллект становится главным инструментом, с помощью которого человек будет создавать последующие инструменты. Это мощное орудие, определяющее формат будущего в глобальном масштабе и на повседневном уровне, поэтому необходимо заложить в его развитие общепризнанные этические принципы и закрепить их законодательно. Развитие ИИ должно следовать шести основным принципам.

• Справедливость и равенство.

• Надежность и безопасность.

• Защита данных.

• Инклюзивность.

• Прозрачность.

• Подотчетность.

2.1. Справедливость

ИИ поручается принятие предварительных решений в самых чувствительных для человека вопросах — о приеме на работу, предоставлении займа, направлении к врачу. В дальнейшем эти полномочия ИИ будут только расширяться. Принцип справедливости предполагает схожие решения для схожих групп людей в схожих ситуациях.

Однако следует помнить о возможной ошибке выборки.

В тренинговую базу данных заложили сведения о составе сотрудников за 1970-е годы, и компьютер пришел к выводу, что в первую очередь отбирать нужно белых мужчин.

Защитой от ошибки выборки станет постоянное обучение ИИ и заложенная в программу способность распознавать необычную ситуацию и извещать о ней человека.

Парадоксально, однако в некоторых ситуациях принцип справедливости действует не в интересах общественности или потребителя и нуждается в коррекции.
Единый алгоритм ценообразования может выровнять цены на товар во всех компаниях так, что это придет в противоречие с антимонопольным законодательством.

2.2. Надежность и безопасность

Если ИИ принимает решения за человека, нет ли угрозы, что по ошибке или из-за хакерской атаки будет принято неверное решение с катастрофическими последствиями?

Помимо апокалиптических сценариев из фантастических фильмов можно вообразить биржевые риски, транспортный коллапс, медицинские ошибки.

На самом деле ИИ лучше защищен от случайностей и злонамеренного взлома, поскольку принцип его работы основан на сопоставлении паттернов, и «перекодировать» его намного сложнее, чем обычный алгоритм. Профилактические меры безопасности те же, что и для обеспечения справедливости: постоянное обучение и способность различать аномальную ситуацию, оставляя окончательное решение за человеком.

2.3. Защита данных

Для обучения ИИ базы данных должны все время пополняться. Но человеку неуютно при мысли, что его личные данные постоянно мониторятся и используются, а для компаний и государств остро встает вопрос секретности.

Для развития ИИ необходимо полное доверие к методам сбора, хранения и использования данных. Здесь требуется прозрачность (кто собирает, в каких целях) и последовательные технические решения и протоколы.

• Шифровка личных сведений.

• Отделение статистических данных от идентифицирующих.

• Зашита от несанкционированного доступа и подделок.

Следует развивать действующее законодательство, с одной стороны, гарантирующее защиту личных данных, с другой — полную доступность публичных данных.

Решение о том, какие данные подлежат защите, принимается не алгоритмом, а законом и людьми с учетом контекста. Так, нет необходимости шифровать имена в списках сотрудников компании, но это вполне уместно в списках усыновителей.

2.3.1. Особая проблема — базы данных компаний. Собранные данные представляют собой значительную ценность, и при слиянии компаний и их баз данных может возникнуть монополия на уникальные данные.

Для фармацевтических и медицинских компаний исключительную ценность представляют накапливаемые десятилетиями сведения о пациентах. Но если эти сведения будут монополизированы, усложнится доступ к жизненно важной информации.

Государство должно обеспечить всеобщий доступ к публичным данным и развивать законодательство, направленное на равенство доступа при соблюдении анонимности.

2.4. Инклюзивность

ИИ создается на благо всего человечества, и чем больше людей будет им охвачено, чем активнее будут использоваться его возможности, тем больше пользы принесут новые технологии. Инклюзивность подразумевает включение широкого спектра опыта, требует учета потенциальных проблем и барьеров, связанных с инвалидностью и трудностью доступа.

Microsoft создает программы-спутники для незрячих, которые сообщают о дорожных знаках, читают меню и штрих-коды, распознают эмоции на лицах собеседников. Отдельное направление в компании посвящено ПО для инвалидов.

Законодательство США уже предусматривает всеобщую доступность технологий. Необходимо развитие регламента на международном уровне с особым вниманием к развивающимся странам, неимущим, малообразованным, инвалидам.

2.5. Прозрачность

Прозрачность рассматривается как гарантия соблюдения всех перечисленных выше принципов. Она обеспечивается понятностью для обычного юзера протоколов работы ИИ, принципов сбора данных, алгоритмов решения, права на доступ.

Мicrosoft создает предельно простой и удобный для пользователя интерфейс, проводит регулярные тренинги и предлагает компаниям и госорганизациям блоки, из которых те могут составить кастомизированный продукт под свои нужды.

2.6. Подотчетность

Создатели программного продукта несут ответственность за эффективность его работы и обязаны постоянно проверять, как идет обучение ИИ и нет ли угроз сбоя.

Законы о преступной халатности должны быть распространены на эту сферу.

2.7. Шесть законов ИИ подразумевают постоянное развитие государственного и международного законодательства с максимальным охватом всех категорий юридических и частных лиц и жизненных ситуаций, совместную ответственность компаний и государства, создание кастомизированного и понятного пользователям продукта, безусловную подконтрольность ИИ человеку, непрерывное обучение людей и ИИ, регулярный аудит, прозрачность и подотчетность как сбора данных, так и алгоритмов.

2.8. Также законодательство должно меняться с учетом сдвигов, происходящих в сфере занятости, социального обеспечения и образования.

3. Что будет с работой?

3.1. Главное опасение, связанное с новыми технологиями, — даже не страх, что их можно обратить в оружие, а тревога за рабочие места. Каждый значимый этап промышленной, а затем цифровой революции сопровождался исчезновением ряда профессий, но с появлением ИИ страхи обостряются, ведь ИИ позиционируется как окончательный инструмент, который определяет будущее, то есть сдвиги произойдут более глубокие и с более серьезными последствиями, чем прежде. Они затронут не отдельные отрасли, а весь мир профессиональной занятости, чего не случалось прежде в истории человечества.

3.2. Еще один страх связан с представлением об ИИ как замене человека. Появится умная машина, которая умеет делать все то, что делал водитель, менеджер, юрист, репортер или даже врач, переводчик, учитель. Что делать тем, кто потратил жизнь на получение образования, приобретение навыков, создание карьеры? И куда идти молодежи?

Автоматизация продаж и логистики уже охватывает большинство интернет-магазинов. Беспилотный транспорт — дело ближайшего будущего. Подбор документов, просмотр анализов и снимков, составление и перевод шаблонных документов, сортировка почты, тестирование знаний — все передается цифровым технологиям.

3.3. Расхожие страхи устраняются фундаментальным соображением: ИИ работает не вместо человека, а вместе с ним. Это не самостоятельная сущность, а помощник, берущий на себя рутинные обязанности, чтобы с огромной скоростью и точностью выполнять задачи, компенсировать недостаток человеческих возможностей. Решение, что заложить в ИИ, как им пользоваться, какие действия предпринимать, всегда остается за человеком. Человек не устраняется, а, напротив, сможет достичь гораздо большего вместе с ИИ.

3.3.1. Если компания воспользуется новыми технологиями, чтобы сократить служащих и продолжать предоставлять клиентам те же услуги, она окажется неконкурентоспособной рядом с компаниями, которые благодаря технологиям расширят спектр услуг и «очеловечат» их.

С внедрением автоматизированных колл-центров банки существенно увеличили количество филиалов, наняли больше сотрудников и вместо прежнего требования быстро и оперативно разбираться с клиентами, наоборот, ввели индивидуальное обслуживание с длинной и внимательной беседой.

3.4. Но эти страхи справедливы в том смысле, что человек сможет работать только вместе с ИИ, то есть все те, кто не получит соответствующих навыков, окажутся за бортом. Каждому работнику, независимо от сферы его деятельности, придется разбираться в ИИ хотя бы на уровне пользователя, а для карьеры потребуется основательное знание законов и этики ИИ, понимание возможных сбоев, умение сохранять решение за собой.

Сопоставляя паттерны, ИИ определяет степень угрозы невозвращения займа. Служащий банка не может автоматически отсеивать клиентов с определенным уровнем угрозы, он должен понять, почему ИИ оценил угрозу именно так и сбудется ли угроза именно в этом случае — или можно найти индивидуальное решение.

3.5. С появлением ИИ ряд профессий действительно исчезнет, но им на смену придут другие. Это напрямую отражается на образовании. Необходимо учить гуманитариев основам ИИ, а программистов и инженеров-робототехников — этике. Любому специалисту нужно понимать, как в его сфере может применяться ИИ и что требуется от него самого как от специалиста. Проблема заключается в том, что изменения происходят очень быстро.

По некоторым оценкам, 50% знаний, полученных на первом курсе, устареют к моменту получения диплома.

3.5.1. Заполнять новые рабочие места предстоит не только новым специалистам, но и нынешним переобученным работникам. Конкурентоспособность в нынешнем мире и в наступающем будущем означает непрерывное обучение.

Предоставление дополнительного образования, тренингов, практики в смежных отделах становится одним из ключевых бонусов при выборе места работы.

3.6. Стремительные перемены вынуждают пересмотреть не только формат образования и переподготовки сотрудника, но и формат найма на работу, требований к сотруднику, отношений между компанией и сотрудниками. Цифровые технологии уже позволили значительной части специалистов перейти на удаленные формы работы и фриланс, предполагается дальнейшее развитие фриланса он-деманд, то есть вместо постоянного контракта компании будут подбирать специалиста на договоре для конкретного проекта.

3.6.1. Рост фриланса требует неотложных изменений социального законодательства, поскольку на данный момент фрилансеры недостаточно защищены социально, для них не предусмотрен бюллетень и оплата сверхурочных, неясно, кто будет выплачивать им пенсию. Новое законодательство должно и в социальной сфере, как и в сфере развития технологий, строиться на принципе совместной ответственности компаний и государства.

3.7. Поскольку без владения новыми технологиями и компании, и работники оказываются неконкурентоспособными, основной социальной угрозой становится разрыв доходов между образованными и необразованными, развитыми и развивающимися странами мира. Международное и государственное законодательство должно быть направлено на обеспечение образования всем слоям населения и всем жителям Земли, а также на всеобщую доступность компьютерных технологий.

Microsoft настаивает на всеобщей доступности новых технологий и с этой целью проводит тренинги в том числе в сельской глубинке США и в развивающихся странах. Концепция «строительных блоков» (базовых функций, из которых пользователь сам собирает то, что ему нужно) также способствует демократизации ИИ и максимального приближения его к нуждам каждого человека.

Заключение

Предсказать все последствия развития ИИ невозможно, следует быть готовым к неожиданностям, продумывать необходимые поправки в законодательство, заранее готовить антидоты от преступной небрежности, мошенничества и более серьезных преступлений вплоть до терроризма, гибко менять систему обучения, постоянно уточняя список необходимых навыков, развивать систему социальной поддержки, глобальной доступности и инклюзии.

Появление новых технологий открывает небывалые возможности в всех сферах — медицины, образования, сельского хозяйства и промышленности. Становятся реальностью профилактика эпидемий; индивидуальная траектория образования; мониторинг здоровья с учетом генетических факторов; логистика, которая обеспечит интересы индивидуальных клиентов и вместе с тем убережет от дефицита. Одно из важнейших последствий — освобождение человека для собственно человеческих дел.

ИИ давно превзошел человека в IQ и совершенствуется в пассивном EQ, то есть распознавании эмоций. Но «спецификой человека» останутся такие свойства интеллекта, как креативность, сотрудничество, сложная коммуникация. Именно эти человеческие свойства будут наиболее востребованы в эпоху ИИ, и на них будет строиться образование и профессиональная ориентация.

Законы и этические принципы ближайшего будущего должны быть человекоцентричны: исходить из интересов человека, охранять его частную жизнь, обеспечивать равные возможности и социальную защиту, сохранять за человеком право и ответственность контролировать ИИ.

Не отрицая связанные с новыми технологиями проблемы и вызовы, команда Microsoft придерживается позитивного взгляда: совместная ответственность государств, компаний и частных лиц, продуманная политика, направленная на единство человечества и инклюзию, понимание способностей человека и способностей, которые он сам и вкладывает в машину, ведут нас в мир, далекий от апокалипсических сценариев фантастов — в привычный и обжитой мир, где мы уже и так находимся, но еще более соразмерный человеку.