Как искусственный интеллект регулируют в Казахстане и мире

И нужно ли это вообще делать

Количество организаций, использующих искусственный интеллект, постоянно растет — его применяют в медицине, политике и даже при вынесении судебных решений. За прошлый год ИИ окончательно стал важнейшим инструментом для десятков тысяч людей, многие из которых не могут представить свою деятельность без чат-ботов, автоматизированных переводчиков, голосовых помощников, а также программ для редактуры и создания изображений.

Само собой, перед государствами по всему миру встал вопрос — а как вообще вписать искусственный интеллект в законодательство? Точные меры остаются объектом дискуссий, но первые законы уже начали появляться.

Рассказываем, как в Казахстане и мире хотят регулировать стремительно развивающиеся технологии.

Как в Казахстане используют искусственный интеллект

Искусственный интеллект — это свойство технических или программных систем выполнять функции, которые обычно делает человек. При этом важно учитывать, что в оригинальном значении словосочетание «artificial intelligence» не имеет антропоморфной окраски, поскольку слово «intelligence» в контексте означает «умение рассуждать разумно», а не «интеллект».

На данный момент ИИ используют в самых разных областях — от образования до предотвращения нарушений ПДД. Вот некоторые примеры использования искусственного интеллекта в Казахстане:

• Судебная система. Уже второй год в казахстанских судах используют ИИ для анализа судебных дел — в том числе для прогнозирования их исходов. Власти считают, что применение технологий минимизирует ошибки и повышает качество правосудия.
• Медицина. С 2022 года в Казахстане используется программа «PneumoNet», которая работает на основе ИИ и помогает выявлять 17 наиболее патогенных заболеваний легких, в том числе пневмонию, туберкулез и рак.
• Трудоустройство и поиск работы. На казахстанской электронной бирже труда функционирует технология, которая помогает соискателям в поиске работы, а работодателям — в отборе подходящих резюме.
• Безопасность граждан. В 2023 году Минобороны РК объявило о подготовке системы на основе ИИ, которая объединит все видеокамеры в воинских частях и будет выявлять правонарушения и неуставные отношения между солдатами.

Какими законами ИИ регулируется в Казахстане

Как отмечает Елжан Кабышев, эксперт юридической фирмы Digital Rights Center Qazaqstan и менеджер правозащитных проектов в сфере цифровых прав, в Казахстане пока нет специальных законов, регулирующих создание и использование искусственного интеллекта.

При этом в 2021 году была принята Концепция правовой политики до 2030 года, в которой власти заявили о необходимости подобного регулирования.

В целом, развитие ИИ и робототехники порождает множество спорных вопросов, на каждый из которых общество должно дать ответ. Вот несколько примеров:

• Как должна распределяться ответственность за вред, причиненный действиями искусственного интеллекта?
• Кому должна принадлежать интеллектуальная собственность на произведения, созданные с участием ИИ?
• Что делать с активным интересом государств к технологиям, которые могут использоваться для контроля и надзора за общественной жизнью?
• Можно ли проследить за тем, чтобы государство при использовало международные стандарты и лучшие практики в области ИИ, а также сотрудничало со всеми заинтересованными в нем сторонами?
• Как усовершенствовать законы так, чтобы учесть использование искусственного интеллекта при кибератаках, мошенничестве, шпионаже и терроризме?
• Каким образом нужно кодифицировать законодательство, чтобы обеспечить системность подхода к ИИ во всех сферах общественной жизни?
• Какой подход позволит совместить стимулирование инноваций и развитие конкуренции с защитой прав и интересов граждан?
• Нужно ли законодательно регламентировать изменения в системе образования, которые будут учитывать возможную замену множества работников в разных профессиях на искусственный интеллект?

Последний вопрос с течением времени может стать чрезвычайно актуальным. Так, в Goldman Sachs — одном из крупнейших инвестиционных банков в мире — считают, что в ближайшем будущем из-за замещения искусственным интеллектом работу могут потерять 300 миллионов человек по всему миру. При этом развитие технологий создаст новые рабочие места, связанные с ИИ.

По словам Елжана Кабышева, в казахстанском законодательстве сейчас отсутствует понятие «искусственный интеллект» — однако существует близкая к нему формулировка «интеллектуальный робот». Согласно законодательству, это автоматизированное устройство, которое действует с учетом воспринятой и распознанной внешней среды.

Также казахстанские законы запрещают использовать автоматизированное принятие решений, в результате которого могут пострадать права и законные интересы граждан — исключение составляют случаи, когда эти решения принимаются с согласия человека или в других предусмотренных законодательством случаях.

Какие меры нужно принять Казахстану для урегулирования ИИ

Елжана Кабышев считает, что основы для будущих законов об искусственном интеллекте уже отражены в планах чиновников — а в целом, по его мнению, властям следует:

• Определить что такое ИИ, а также описать его виды, правовой статус и ответственность;
• Установить, какие типы искусственного интеллекта подпадают под действие законодательства;
• Указать права и обязанности разработчиков, пользователей и пострадавших от действий ИИ, а также обозначить границы вмешательства государства;
• Определить, кто должен нести ответственность за вред, причиненный искуственным интеллектом, и какие за него могут существовать компенсации.

По мнению юриста, много интересной информации о связи ИИ и прав человека можно найти в документе «Искусственный интеллект и свобода слова», подготовленном Офисом представителя Организации по безопасности и сотрудничеству в Европе по вопросам свободы СМИ.

Цель исследования — способствовать более четкому пониманию политики и практик правительства, регулирующих органов и интернет-посредников в использовании технологий машинного обучения и их влияния на то, как граждане получают доступ к информации и обмениваются ею, — обращает внимание эксперт.

Также определенные рекомендации содержались в консультативном документе к проекту Закона «Об интернет-рекламе и онлайн-платформах», который разработало Министерство культуры и информации:

• Обеспечить «открытость и обоснованность» использования алгоритмов искусственного интеллекта в таргетированной рекламе;
• Следить, чтобы защита прав человека не полностью автоматизировалась;
• Предусмотреть «всеобъемлющие отчеты о прозрачности», рассказывающие об использовании ИИ в рекламе;
• Дать пользователям возможность отказаться от любого автоматизированного принятия решений.

К сожалению, не все рекомендации были в конечном итоге предусмотрены законом «Об онлайн-платформ и онлайн-рекламе». Надеюсь, что в будущем законотворчество в этом русле будет более комплексным, отвечающим в полной мере на актуальные вызовы и соответствовали международным стандартам, — комментирует этот документ Кабышев.

Как ИИ регулируют в других странах

В некоторых государствах уже успели принять законы, регламентирующие и ограничивающие искусственный интеллект. Вот несколько примеров:

• В США с октября 2023 года действует Указ президента «О безопасной и надежной разработке и использовании искусственного интеллекта», до этого в стране был опубликован проект Билля о правах в области ИИ. Эти инициативы касаются обеспечения кибербезопасности, защиты авторских прав и анализа рынка труда в контексте развития технологий.
• Китай регулирует искусственный интеллект в рамках особого пятилетнего плана. Значительное внимание в нем уделяется созданию условий для развития технологий — в том числе снятию барьеров для развития ИИ, а также его обеспечению необходимой инфраструктурой и данными.
• Саудовская Аравия в 2022 году разработала этические принципы, касающиеся создания и использования искусственного интеллекта.
• В Великобритании с 2018 года действует стратегия, которая призывает органы власти использовать ИИ в социальном, экономическом и политическом контекстах — например, создавать специальные программы поддержки бизнеса, который использует искусственный интеллект.

По словам Елжана Кабышева, внимание также стоит обратить на опыт Европейского союза, который в мае 2023 года установил закон, регулирующий ИИ.

Документ делит системы на четыре уровня риска: недопустимый, высокий, ограниченный и минимальный. Также он запрещает разделение людей с помощью ИИ-биометрии по полу, расе, этнической принадлежности, гражданству, религии и политическим взглядам.

Еще европейские законодатели потребовали, чтобы системы высокого риска — например, распознающие лица, прогнозирующие поведение и оценивающие кредитоспособность — были прозрачными, надежными и подлежали независимой проверке. В свою очередь, системы ограниченного риска, вроде чат-ботов, должны четко помечаться и иметь возможность человеческого вмешательства.

Отдельная категория, которая включает, например, ChatGPT — это ИИ общего назначения (GPAI). От них также требуют прозрачности. А еще высокоэффективные системы такого рода должны пройти особый процесс тщательной оценки.

Нужно ли вообще регулировать искусственный интеллект

Стремительное развитие технологий привело к созданию мощных алгоритмов и систем, способных выполнять сложные задачи — систем, которые раньше казались невозможными. Такой быстрый прогресс создает множество рисков, а также провоцирует тревогу в обществе. Граждан многих стран беспокоят этические аспекты использования ИИ, возможная потеря рабочих мест и риски, связанные с безопасностью и конфиденциальностью данных.

По мнению Елжана Кабышева, ИИ является очень мощным инструментом, который может поспособствовать решению многих глобальных и локальных проблем — однако он создает риски для прав и свобод человека, а также для национальной безопасности государств. Это значит, что необходимо разработать эффективные и гибкие правовые механизмы, которые помогут развивать и применять ИИ, гарантируя при этом права человека и минимизируя вред.

Эксперт отмечает, что регулированию искусственного интеллекта стоит посвятить отдельный закон или главу в Цифровом кодексе — а обсуждение вводимых норм должно проводиться вместе с гражданским обществом, правозащитниками, разработчиками ИИ, научным сообществом и финансовыми организациями.

Автор: Надежда Гельдт