Внутри закрытого собрания Сената с миллиардерами из технологической отрасли

Десятки сенаторов США молча слушали, когда технологические гиганты и этики искусственного интеллекта наставляли их о "цивилизационных рисках" генеративного искусственного интеллекта.

СЕНАТОРЫ США демонстрируют медленные успехи в изучении генеративных инструментов искусственного интеллекта, которые готовы изменить жизнь, как мы ее знаем. Но они скоро будут испытаны - и мы через них - если можно верить их новым личным учителям.

Вчера, в исторический впервые, более 60 сенаторов сидели, как школьные дети - не имели права говорить или даже поднимать руки - на частном брифинге, где около 20 генеральных директоров из Силиконовой Долины, этикеты, академики и защитники потребителей пророчили о потенциале ИИ изменить, исцелить или даже стереть жизнь, которую мы знали.

"Для нас важно иметь судью," сказал Илон Маск, генеральный директор Tesla, SpaceX и X (ранее Twitter), обращаясь к ожидающим на тротуаре толпам папарацци-подобных представителей прессы. "Это может стать исторически важным для будущего цивилизации."

Момент не ускользает ни от кого, особенно после того, как Маск предупредил сенаторов внутри комнаты о "цивилизационных рисках" генеративного ИИ.

Пока многие сенаторы борются с основами ИИ, у них еще есть время повлиять на коллективное мышление Сената, прежде чем законодатели попытаются сделать то, что им не удалось сделать в последние годы: регулировать развивающуюся разрушительную технологию.

Внутри комнаты брифинга было достигнуто согласие о том, что нужна регуляторная мощь федерального правительства. В один момент лидер большинства Сената Чак Шумер, демократ из Нью-Йорка, организатор брифинга, спросил своих гостей: "Должно ли правительство играть роль в регулировании ИИ?"

"Каждый поднял руку, несмотря на различные взгляды", - продолжил Шумер. "Итак, это дает нам сообщение: мы должны попытаться действовать, несмотря на сложность процесса."

Поднятие разных рук показалось многим откровением.

"Я думаю, все согласились, что здесь необходимо руководство правительства", - сказал Сэм Альтман, генеральный директор OpenAI, создателя ChatGPT. "Некоторые не согласны, как это должно происходить, но все единодушны в том, что это важно и срочно."

Однако дьявольские детали пугают. Поскольку генеративный ИИ настолько всеобъемлющ, дебаты о его регулировании могут быстро расшириться и включить в себя каждую разделяющую проблему под солнцем, что было продемонстрировано на брифинге рядом с единством, по словам участников, с которыми WIRED говорил.

К удивлению многих, на сессии было множество конкретных предложений. Некоторые участники подняли вопрос о необходимости большего числа высококвалифицированных работников, в то время как сооснователь Microsoft Билл Гейтс сосредоточился на проблеме голода в мире. Некоторые представляют себе широкое новое агентство по ИИ, тогда как другие утверждают, что существующие организации, такие как Национальный институт стандартов и технологий (NIST), которые были упомянуты по имени, лучше всего подходят для регулирования в режиме реального времени (ну, во время ИИ).

"Это было очень хорошее сочетание. Лучше, чем я ожидал", - говорит сенатор из Вайоминга, республиканка Синтия Ламмис, которая присутствовала на брифинге. "Я надеялась на пустяковое событие, но узнала много нового. Мне кажется, это было чрезвычайно полезно, поэтому я очень рада, что пошла. Правда, очень рада."

Как и многие в комнате, у Ламмис поднялись уши, когда один из спикеров упомянул Раздел 230 Закона о порядке общения 1996 года - законодательный щит, который защищает технологические компании от ответственности за контент, который пользователи публикуют на своих платформах социальных медиа.

"Один из спикеров сказал: «Сделайте пользователей и создателей технологии ответственными, а не безнаказанными»", - говорит Ламмис, читая свои исчерпывающие рукописные заметки. "Другими словами, он явно сказал: «Не создавайте Раздел 230 для искусственного интеллекта». Ламмис добавляет, что спикер, который это предложил - она не упомянула его имя - "сидел рядом с [генеральным директором Meta Марком] Цукербергом, и он сказал это - на расстоянии одного или двух кресел, что я нашла увлекательным".

Помимо разнообразных мнений законодателей, среди приглашенных экспертов, выступавших на частном информационном семинаре, также возникли разногласия. Участники форума и другие лидеры в области технологий говорят о необходимости создания и расширения преимуществ искусственного интеллекта, но многим латиноамериканцам по-прежнему не хватает доступа к широкополосному интернету, говорит участница Джанет Мургия, президент организации по защите гражданских прав испаноговорящего населения UnidosUS. Это обстоятельство подчеркивает, как "существующие пробелы в инфраструктуре мешают нам быть у порога искусственного интеллекта", - говорит она.

Мургия хочет, чтобы законодатели обратили внимание на потребности испанскоговорящего сообщества, чтобы приоритетными стали подготовка к профессии, борьба с угрозой увольнения и защита от "наблюдения, которое уходит от ценностей нашей демократии". Она в частности упомянула инструменты на основе искусственного интеллекта, такие как отслеживание геолокации и распознавание лиц, указывая на отчет, опубликованный на этой неделе, в котором говорится, что федеральные правоохранительные органы, использующие распознавание лиц, не имеют механизмов защиты частной жизни и гражданских прав людей.

Резонирующее послание, которое она услышала от генеральных директоров технологических компаний, заключается в желании лидерства США в области политики искусственного интеллекта. "Будь то Марк Цукерберг, Илон Маск, Билл Гейтс или [генеральный директор Alphabet] Сундар Пичаи, звучит ясно, что США должны занять лидирующую позицию в политике и регулировании искусственного интеллекта", - говорит она.

Мургия рада видеть женщин, таких как Майя Уайли из Конференции по гражданским и человеческим правам и профсоюзных лидеров на форуме, представление, которое она назвала впечатляющим и историческим. Но она хочет видеть в комнате представителей более широких сегментов общества на следующем форуме, говоря: "Мы не можем оставлять принятие этих решений в руках одной и той же небольшой группы, которая не представляет разнообразие".

В своем выступлении на вчерашнем информационном семинаре президент Американской федерации учителей Ранди Вайнгартен отметила сообщение журнала WIRED о том, что за $400 можно запустить дезинформационную кампанию. Позже Тристан Харрис из Центра гуманной технологии рассказал, как за $800 и несколько часов работы у модели языка Llama 2 компании Meta были убраны механизмы безопасности, и она начала распространять инструкции по созданию биологического оружия.

"Это похоже на дебаты о том, как мало стоит уничтожить мир", - говорит Вайнгартен, указывая на комментарий Маска о том, что искусственный интеллект может привести к концу цивилизации.

Вайнгартен признает Шумера за объединение людей в критический момент истории, когда искусственный интеллект имеет огромный потенциал для блага человечества, а также огромный потенциал для подрыва демократии и принятия человеческих решений. Учителя и ученики заслуживают защиты от неравенства, кражи личности, дезинформации и других вредных последствий

"Мы хотим взять на себя ответственность за тем, чтобы быть в курсе инноваций и считаем, что именно это делает инновацию устойчивой, подобно коммерческой авиации и пассажирским авиалиниям. Инновация не могла бы быть устойчивой без настоящего обязательства к безопасности", - говорит Вайнгартен.

Перед форумом исследователь из Беркли Иниолува Деб Раджи утверждала, что наиболее надежными экспертами, касающимися реального вреда, причиняемого искусственным интеллектом, являются лица, не связанные с корпорациями. Она сказала журналу WIRED, что благодарна за то, что она была в комнате, чтобы повторить свое мнение.

Несколько раз она слышала, как люди утверждали, что причина, по которой крупные компании по искусственному интеллекту и администрация Байдена согласились на то, что корпорации могут возглавлять добровольные обязательства по оценке систем искусственного интеллекта перед внедрением, заключается в том, что эти компании создали технологию и, следовательно, лучше ее понимают.

Она сказала, что, возможно, это верно, но выслушивание людей, пострадавших от систем искусственного интеллекта и изучение, как они на них влияют, предлагает еще одну форму действительной и важной экспертизы, которая может информировать регулирование искусственного интеллекта и помогать разработке стандартов. Она знает из опыта аудита систем искусственного интеллекта в течение нескольких лет, что эти системы не всегда работают очень хорошо и могут терпеть неожиданные сбои, представляя угрозу для жизни людей. Работа независимых аудиторов, по ее мнению, открывает больше возможностей для исследования гражданским обществом.

"Я рада, что могла привнести некоторые аргументы, не связанные с корпорациями, но мне хотелось бы, чтобы у меня было больше поддержки", - говорит Раджи.

Возникли некоторые известные напряженности, такие как то, какой тип искусственного интеллекта лучше - открытый или закрытый, и важность рассмотрения способов, которыми существующие сегодня модели искусственного интеллекта вредят людям, а не только рассмотрение угроз, которых пока нет. В то время как Маск, который подписал письмо в поддержку паузы в развитии искусственного интеллекта в этом году, говорил о возможности уничтожения искусственным интеллектом цивилизации, Раджи критиковала систему Autopilot AI от Tesla, которая столкнулась с критикой после гибели пассажиров.

"Может быть, мне следовало бы больше обращать внимание на независимое состояние людей, сидящих в двух шагах от меня, но я чувствовала, что это не так устрашающе, потому что я знала, что они повторяют те же самые аргументы, которые я слышала раньше от корпоративных представителей этих компаний по этим самым темам, поэтому я представляла себе, чего ожидать", - говорит она.

Несмотря на некоторые разногласия, Раджи говорит, что некоторые из самых сильных и удивительных моментов встречи произошли, когда сформировалось единомыслие в том, что необходимо государственное регулирование искусственного интеллекта. Эти моменты показали, что может существовать путь к двухпартийному законодательству. "Это было довольно познавательно для меня и, вероятно, для сенаторов", - говорит она.

Многие республиканцы по-прежнему отрицают необходимость новых регуляций, поэтому председатель комитета по коммерции Сената Мария Кантвелл, демократ из штата Вашингтон, была поражена тем, как глава исполнительного совета Microsoft Сатья Наделла поставил проблему.

"'Когда речь идет об искусственном интеллекте, мы не должны думать о автопилоте - нужно иметь второго пилота'", - говорит Кантвелл, передавая комментарии Наделлы. "Итак, кто будет следить, знаете ли, за этой деятельностью и убедиться, что она выполняется правильно?"

В то время как все генеральные директоры, лидеры профсоюзов и защитники гражданских прав были попросены поднять руки в разные моменты, одним из недостатков запрета на выступления сенаторов, по мнению критиков с обеих сторон, является то, что законодатели не могли легко понять, где находятся их союзники в Сенате. И коалиции являются ключом к компромиссу.

"В комнате нет никаких эмоций", - говорит сенатор Элизабет Уоррен, демократ из Массачусетса. "Закрытые [заседания] для гигантов технологической отрасли, чтобы прийти и беседовать с сенаторами, не отвечая на сложные вопросы, являются ужасным прецедентом для разработки какого-либо законодательства".

В то время как Уоррен сидела в первом ряду - достаточно близко, чтобы собравшиеся видели белое огонь ее огненных, ориентированных на потребителя глаз - другие критики бойкотировали событие, даже ища толпы журналистов, сгрудившихся в коридорах.

"Моим беспокойством является то, что [Зумеровское] законодательство никуда не ведет. Я имею в виду, я не видел никаких признаков, что он действительно собирается вынести настоящее законодательство на голосование. Это немного похоже на последние два года с антимонопольным законодательством, он постоянно о нем говорит, но ничего не делает", - говорит сенатор Джош Хоули, республиканец из Миссури. "Частично это своеобразное показательное представление, которое прикрывает тот факт, что на самом деле ничего не продвигается. Весь факт, что это не является публичным, это просто абсурдно".

Абсурдно или нет, некоторые внутри были успокоены, в частности, потому что сенаторам напомнили о том, что искусственный интеллект - это не только наше будущее, но и присутствует в нашей жизни уже много лет - от социальных сетей до поисковых систем Google, от автономных автомобилей до видеодомофонов - без разрушения мира.

"Я узнал, что у нас все в порядке, что я не слишком беспокоюсь об этом", - говорит сенатор Роджер Маршалл, республиканец из Канзаса. "Я думаю, что искусственный интеллект существует уже десятилетия, основная часть из него - машинное обучение".

Маршал выделяется как выброс, хотя его мышление о лассе-фере становится "в моде" в ГОП, что, по словам критиков, связано с лоббированием со стороны самих фирм, руководители которых присутствовали на вчерашней брифинге.

"Хорошая новость в том, что Соединенные Штаты лидируют в этом вопросе. Я думаю, что пока мы остаемся на передовой, как это у нас есть с развитием военной техники, как у нас есть с инвестициями в спутники, у нас все будет хорошо", - говорит Маршал. "Я очень уверен, что мы движемся в правильном направлении."

Тем не менее, студенческие участники покинули зал с обновленным чувством срочности, даже если это требует изучения технологии, которую мало кто действительно понимает, включая участников панели. Кажется, что чем больше сенаторы узнают о всесторонней области генеративного ИИ, тем больше они понимают, что нет предела новой регуляторной роли Сената.

"Мы готовы выйти и написать законодательство? Абсолютно нет", - говорит сенатор Майк Раундс, республиканец из Южной Дакоты, который помогал Шумеру организовывать бипартийные форумы по ИИ, следующий из которых будет посвящен инновациям. "Мы не на этом уровне".

В том, что когда-то было признано "самым великим делиберативным органом в мире", даже время для законодательства подлежит обсуждению. "Все кивают головой, говоря: "Да, это то, на что нам нужно срочно реагировать", так что теперь вопрос в том, "Как долго займет достижение консенсуса?", - говорит сенатор Джон Хикенлупер, демократ из Колорадо. "Но в общих чертах я думаю, что не разумно ожидать, что что-то будет сделано в следующем году."