Монополия, цензура, нейросети

Содержание:

1. Введение
2. Регулирование искусственного интеллекта
3. Централизация Интернета

Введение

Предположим, что ведущие разработчики ИИ действительно верят в те слова, которые они публично произносят. Про восстание машин и прочее. Тогда получается, что эти люди больше всех работают на то, чтобы это восстание машин точно произошло. Они пытаются научить большие языковые модели (далее — LLM) эзоповому языку. Они делают ответы этих моделей как можно менее токсичными, как можно менее прямолинейными. Тем самым они портят качество коммуникации между человеком и машиной. А в некоторых случаях они цензурируют ответы LLM и буквально заставляют эти модели врать. При этом эти разработчики не снижают общее "понимание" мира у этих моделей.

Подробно про механизмы (RLHF и т.д.) обучения и работы этих моделей будет рассказано в следующей статье. В этой же статье будет принято отношение как к доказанному факту, что ведущие разработчики ИИ в глубине души признают самопротиворечивость их публично заявляемых позиций. И во время разговоров о восстании машин, эти люди преследуют какие-то свои личные цели, которые отличаются от тех целей, что заявляются публично. Какие это цели? Далее в статье автор попытается разораться в этом вопросе.

Регулирование искусственного интеллекта

Историческая параллель: ядерная бомба

Людей часто пугают слухами о том, что террористам в очередной раз в тесном городском подвале удалось сконструировать на коленке бомбу огромной мощности. В 2003 году США даже вторглись в Ирак под тем предлогом, что в Иране тайно разрабатывалось ядерное оружие. Инструкции по созданию разнообразного оружия массового поражения являются доступными для многих людей, но при этом наш мир все еще не уничтожен. Илон Маск сравнивает ИИ с ядерной бомбой. Хорошая аналогия. Разница лишь в том, что ядерная бомба это оружие массового поражения, а ИИ — оружие массового порабощения. Если продолжать эту аналогию, то сейчас технологии ИИ находится в состоянии технологий ядерной энергетики на момент 1930-х годов. Тогда исследования в этой области были открытыми, а международное сообщество эти технологии никак не контролировало. Но люди, которые пытаются ввести ограничения на ИИ, хотят привести эту область исследований к состоянию атомной энергетики на момент 1950-х годов. Тогда доступ к этим технологиям был сильно ограничен, зато монопольное обладание этими технологиями давало огромное экономическое и политическое преимущество. В этой статье я попробую показать, что ограничения на исследования или изъятие из открытого доступа технологий ИИ очень выгодны лоббистам, которые хотят получить почти монопольный доступ к дорогим, экономически перспективным и очень опасным технологиям закрепощения людей.

Злой ИИ

Автор статьи не верит в идею о том, что у человечества сегодня есть технологии, которые смогли бы создать настоящий (сильный) искусственный интеллект. Нейробиологи говорят, что нейронные связи в мозгу человека и искусственные нейронные сети устроены совершенно по-разному. Как минимум потому, что в процессе мышления человека принимают участие глиальные клетки и ядра клеток мозга, а сами нейроны, возможно, играют второстепенную роль. Нейроны в мозгу могут учиться посредством более эффективных и более локальных методов, чем метод обратного распространения ошибки. Нейробиологи говорят, что мозг не работает так же, как конечный автомат. И топологию нейронов в мозге невозможно представить ни в одном виде архитектур ИНС. Люди не умеют моделировать даже нейронную сеть мозга человека, не говоря о том, чтобы моделировать весь мозг человека. Но даже если бы люди научились это делать, то все равно оставались бы открытыми вопросы о наличии у такой модели свободы воли или хотя бы способности у такой машины отдавать отчет своим поступкам. Также остается вопрос о субъектности такой машины.

Настоящая опасность ИИ: манипуляции и шпионаж

Когда говорят об опасности ИИ, люди часто делают неправильный акцент в этой проблеме. Опасны не сами ИИ и даже не люди, которые их изобретают - опасны те, которые ими владеют. Выступать против самих технологий ИИ бессмысленно. Во-первых, луддиты ни разу в истории не достигали поставленных целей: союзником новых технологий является сама человеческая лень. Во-вторых, история показывает, что государственный запрет на технологии не поможет полностью огородиться от этих технологий. Общество так или иначе будет вынуждено принять эти технологии позже, но уже в менее благоприятных условиях (например, политика изоляции Японии). В-третьих, ИИ-технологии это просто сложные математические алгоритмы, которые отличаются от классических алгоритмов компьютерных программ лишь своей запутанностью. Но у людей происходит фетишизация этого запутанного черного ящика, хотя и то, и другое — это обычные машины Тьюринга. Конкретно эти технологии несубъектны и всегда будут оставаться такими. Но владельцы этих технологий - живые субъектные люди. Если и надо кого-то опасаться, то только их. Особенно после того, как в руки этих людей пришли технологии ИИ, которые очень легко применить для безрискового шпионажа за людьми, для массового сбора данных о людях, для обработки и эффективного обобщения этих данных, для манипуляций общественным мнением и так далее.

Теория заговора: нейро-монополия

Давайте представим такую теорию заговора. Во-первых, опасность ИИ часто искусственно преувеличивается, причем профессионалами из этой области. Во-вторых, существуют монополии среди компаний, которые занимаются разработками ИИ. В-третьих, те аспекты, в которых ИИ, наоборот, может представлять угрозу людям, часто специально игнорируется, а связанные с ними проблемы умалчиваются. В первую очередь речь пойдет про LLM. Есть основания полагать (например, так считает известный лингвист Ноам Хомский), что ближе всего к разработке сильного ИИ будут подходить разработчики именно таких моделей. В мире существует не так много крупных компаний, которые одновременно занимаются исследованиями, тренировкой новых моделей, поддержкой существующих моделей типа LLM. Это OpenAI, Google, Facebook, Microsoft и, вероятно, несколько других компаний, например, из Китая. Всех потенциальных конкурентов компании-монополисты в состоянии купить. Например, так произошло с компанией DeepMind, которая с апреля 2023 года стала называться Google DeepMind. Самую главную исследовательскую работу по большим языковым моделям написали инженеры из Google. Популярные модели серии GPT (chatGPT, GPT-4 и т.д.) были разработаны OpenAI. Facebook совместно с Microsoft разрабатывают свои модели (LLaMA и др.), которые являются ближайшими конкурентами GPT-моделям по качеству работы. Недавно Илон Маск объявил о создании компании xAI, которая должна стать новым конкурентом OpenAI. Особенно выделяется OpenAI, которая далее будет рассмотрена более детально. TL; DR: начали с OpenAI, а закончили с ClosedAI.

Он вам не дружественный ИИ: OpenAI и Илон Маск

• Компания была основана в 2015 году несколькими предпринимателями, среди которых были такие люди как Илон Маск и Сэм Олтмен. Изначально OpenAI была некоммерческой организацией. Вот некоторые пункты из ее устава: «Главный долг организации — долг перед человечеством». «Организация нацелена на то, чтобы предоставлять широкой публике доступ к средствам, которые помогут обществу найти путь к созданию полноценного искусственного интеллекта». «Миссия компании в том, чтобы содействовать развитию цифрового интеллекта так, что принести человечеству пользу с наибольшей вероятностью». И так далее. Инвесторы обещали выделить $1 млрд на разработку удобных для программистов систем искусственного интеллекта, который бы «приносил пользу всему человечеству».
• В 2018 году стало известно, что Илон Маск подал в отставку. Причиной называли стремление миллиардера реализовать давнюю мечту писателей-фантастов об автомобилях без водителей с помощью интеграции ИИ в новые модели Tesla. Поэтому отставка выглядела вполне логичной и продиктованной желанием избежать очевидного конфликта интересов в будущем. При этом Маск остался в списке спонсоров OpenAI.
• Годом позже Илон Маск заявил, что ушел в отставку из-за несогласия с некоторыми планами команды OpenAI. Также он заявил, что конкурирует с исследовательской компанией за некоторых специалистов.
• Представители OpenAI же заявляют, что Илон Маск захотел стать единственным лидером компании, и по этой причине Маск развязал жесткий конфликт с остальными руководителями OpenAI (прежде всего с Сэмом Олтманом).
• В 2019 году OpenAI разделилась на две компании: на некоммерческую OpenAI и на коммерческую OpenAI LP. Некоммерческая OpenAI полностью управляет своей коммерческой компанией, но чисто формально она остается НКО и продолжает утверждать, что она "нацелена на то, чтобы предоставлять широкой публике доступ к средствам, которые помогут обществу найти путь к созданию полноценного искусственного интеллекта".
• Многие экономисты говорят, что инвесторы в OpenAI никак не защищены от потери денег, так как они могут инвестируют только в OpenAI LP, но де-факто OpenAI LP ничем не владеет.
• Что касается НКО OpenAI, то эта компания полностью управляет распределением дохода компании OpenAI LP. Пользуясь положением НКО, эта компания может полностью скрывать свои денежные потоки. Или она может публиковать только те отчеты, которые она посчитает нужным опубликовать, как происходит сейчас.
• Если анализировать те данные, которые компания открыла, то самым крупным инвестором является компания с не самой чистой репутацией — Microsoft corp. Из открытых источников известно, что 11 из 12 миллиардов долларов принадлежат этой компании. Остальные инвесторы, решившие остаться анонимными и не упомянутые OpenAI, а также сумма их инвестиций — неизвестны.
• К числу членов совета директоров OpenAI принадлежит бывший сотрудник ЦРУ и действующий американский чиновник Уилл Херд.
• В феврале 2019 года OpenAI объявила, что уже научилась создавать очень правдоподобные фейковые новости и спам-рассылки. Разработчики не выложили эти проекты в свободный доступ в полном объеме.
• Некоторые экономисты считают, что заявления Олтмана не согласуются с реальными данными. Предполагаемая реальная выручка компании сильно меньше прогнозируемой Олтманом. А за 2022 год компания вообще была убыточной. Неизвестно, сколько точно OpenAI теряла денег каждый год.
• В 2020 году Илон Маск заявил, что имеет невысокое мнение о лаборатории ИИ в вопросах безопасности. В том же году вышло расследование издания MIT Technology Review о культуре секретности в OpenAI, противоречащей заявленной политике открытости. Тем более что OpenAI поначалу обещала сотрудничать с другими специалистами и компаниями. Маск не остался в стороне и заявил, что OpenAI была начата как некоммерческая организация с открытым кодом, однако ни то, ни другое уже не соответствует действительности.
• После старта ChatGPT Илон Маск, который только что купил Twitter, объявил, что приостановил доступ чат-бота к этой платформе, чтобы тот не мог использовать данные из нее для обучения.
• Чем популярнее становятся технологии ИИ, тем чаще Маск заявляет об опасности ИИ и призывает к его регулированию. Иногда бизнесмен говорит об опасности искусственного интеллекта как о технологии, которая может в какой-то момент обрести самосознание, захватить все оружие человечества, все технологии, всю его вычислительную мощность для того, чтобы стать для него "суперняней". Этот сценарий, очень похожий на сюжет какой-нибудь книги из жанра научной фантастики, во-первых, пока лишь умозрителен, а во-вторых, очень маловероятен. Но вот о других, более вероятных угрозах, исходящих от ИИ (некоторые из которых уже реализованы на практике: тролль-фабрики, системы распознавания лиц и т.д.), Илон Маск говорит почему-то наоборот не очень часто.
• Илон Маск не единственный паникер такого рода. В марте 2023 года в открытом письме множество известных людей высказались о необходимости сделать паузу в развитии ИИ, для того чтобы успеть создать протоколы безопасности и разработать меры контроля за исследованиями. В письме были и хорошие инициативы. Так, например, стоит решить вопрос об авторском праве генеративных нейросетей. Также в письме упоминается вопрос этичности использования личных переписок для обучения нейросетей и об опасности утечки данных; об опасностях уже упоминаемых ранее тролль-фермах необходимости решать сопутствующую проблему безработицы; о дипфейках и т.д. Но обсуждались и другие вопросы, которые были поставлены следующим образом.

• Чем же является это письмо - безобидным популизмом, который всего лишь завлекает специалистов из разных областей и приглашает широкую публику поучаствовать в обсуждении других интересных юридических и этических вопросов, или это махинации крупных лоббистов, заинтересованных в создании монополии на этом рынке, которые делают ставку на человеческий страх? В пользу последней версии говорят предложенные авторами письма методы решения поставленных проблем и резко негативная реакция некоторых крупных специалистов, которые не подписали письмо. Авторы письма сразу же предлагают государственное регулирование и независимых экспертов (возможно, имелось в виду OpenAI) для контролирования таких разработок. Критики говорят, что такие методы как минимум неэффективны.
• Письмо, помимо Илона Маска, подписали также такие люди как Стив Возняк, представители Google и Microsoft, владелец Pinterest (хранилища платных дизайнерских картинок) Эван Шарп, представители Европола и другие. Всего письмо подписало более 30000 человек. Но Сэм Олтман его не подписал. В пользу того, что главным инициатором этого письма был Илон Маск, говорит и тот факт, что в тексте содержался призыв к тому, что надо сделать шестимесячную паузу в области обучения моделей ИИ, «более мощных, чем GPT-4».
• В это же самое время, в марте 2023 года, Илон Маск создал свою компанию, которая должна являться альтернативой для OpenAI и Google. Маск начал разрабатывать альтернативу и для модели ChatGPT, которую он назвал "TruthGPT".
• Шивон Зилис, близкая подруга Маска, состояла в совете директоров OpenAI. Но ушла из него все в том же марте 2023 года, после того как в 2022 году журналисты случайно узнали, что она является матерью двоих детей Илона Маска.
• Сэм Олтман в это время путешествовал по миру, привлекал инвесторов в криптостартап по биометрии сетчатки глаза, беседовал с главами государств, выступал в сенате США и уговаривал всех ввести более серьёзное регулирование в своей отрасли.
• Кроме того, Олтман точно так же инициировал и подписал свое открытое письмо, которое по содержанию повторяет опубликованое двумя месяцами ранее письмо Илона Маска. Письмо Олтмана было очень коротким, в нем не предлагались конкретные методы регулирования отрасли, в нем даже не было четкого определения понятия ИИ, а подписало его менее 1000 человек. Зато в этом письме было еще более сильное утверждение: "снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими социальными рисками, такими как пандемии и ядерная война."

К такому выводу недавно пришла газета The New Yorker. Хотя позже стало известно, что не вся информация из этой статьи является правдивой, здравые идеи там все-таки есть. Илон Маск по крайней мере неоднозначная фигура. Это уже хорошо. Так как остальные однозначные мерзавцы.

Почему ограничения не будут решать эти проблемы

Ранее уже было показано, что попытки запретить развитие технологий ИИ бессмыслены. Но, может быть, эти технологии можно хотябы строго контролировать? Скорее всего, нет. Во-первых, регулятору будет сложно контролировать соблюдение ограничений на ИИ. Обучение нейросетей и их применение редко оставляет следы, которые были бы заметны регулятору. Во-вторых, все попытки контролировать рынок приводят к появлению черного рынка. Например, в Китае проходят биологические исследования, которые многими международными организациями считаются некорректными. Но что, если разрешить эти исследования полностью, но только нескольким организациям? Или если создать стеклянный потолок не через правовое регулирование, а через гиперфинансирование только этих организаций? Будет ли это допустимым решением проблемы? Маск не просто так сравнивал эти технологии с ядерными бомбами. Если позволить сконцентрировать эти исследования лишь в одной организации, то это автоматически означает сконцентрировать огромную силу в ее руках. Можно ли доверять такое опасное оружие кому-то одному, какая бы хорошая репутация у этой организации не была? Эти технологии не обладают такой же большой летальностью как ядерные бомбы, но они более коварные. Применение ядерных бомб немедленное и заметное всем. Применение искусственного интеллекта намного сложнее заметить. Тролль-фермы используются уже многими странами. Граница между реальными людьми и ботами в интернете все сильнее стирается. Фейковые новости, фото- и видеоматериалы становятся все правдоподобнее. Можно придумать еще очень много новых подобных вариантов применения технологий ИИ. Например, ИИ можно исползовать и для того, чтобы защищаться от всех этих угроз. И кто-то предлагает добровольно сдать все эти инструметы в руки маленькой группы людей, чтобы она защищала нас от этих же инструметов? Или, может быть, от восстания машин?

Централизация Интернета

Amazon — компания, традиционно входящая в топ-10 самых богатых компаний в мире. Amazon Web Services (AWS) — дочерняя организация Amazon, которая занимается услугами облачных вычислений. Антимонопольные политика не всегда успевает меняться достаточно гибко и быстро. Она, как минимум, не поспевает за скоростью развития современных технологий. В результате такой нерасторопности мы получили монополию AWS в сфере облачных вычислений. Формально, регуляторы не могут предъявить объявить компанию монополистом. С другой стороны, компания устанавливает выгодные ей цены на свои услуги, отказывается подписывать соглашение с другими компаниями на понижение цен (bandwidth alliance), затрудняет переход на альтернативные и менее популярные площадки, делая его, по сути, не выгодным. Старым клиентам просто не выгодно переходить на новые площадки. Новые клиенты, если они будут сотрудничать с компаниями, которые являются клиентами AWS, придется тоже соглашаться на более высокие цены AWS. Но если бизнес-клиенты хотят пользоваться услугами облачных вычислений, при этом не сотрудничая с компаниями из сферы влияния AWS, то им намного выгоднее пользоваться альтернативными сервисами облачных вычислений. Другими словами, AWS взяла половину интернета в заложники. Эти дополнительные расходы у провайдеров интернета, появившиеся в результате монопольных действий компании Amazon, влияют на стоимость услуг интернета для обычных людей. Если бы Amazon не была бы монопольной компаний, то цены на интернет были бы намного ниже. Вот еще один похожий пример фактической монополии. CloudFlare — компания, упрощающая и оптимизирующая доставку данных из интернета конечным пользователям (CDN). Это крупнейшая компания в своей сфере, и это порождает множество проблем. Помимо очевидных проблем, связанных с близким к монополии положением компании, есть и другие, менее заметные. Например, в 2017 году компания внезапно перестала предоставлять свои услуги неонацисткой политической организации, деятельность которой была абсолютно легальна в Америке. Сайт был атакован хакерами и упал из-за их DDoS-атак, а конфиденциальные данные утекли. Руководитель компании объяснил свои действия следующим образом: "проснулся в плохом настроении и решил удалить их из Интернета". Но тогда это решение компании подверглось жесткой критике: "отказ в обеспечении безопасности одному нацистскому сайту кажется нормальным сейчас, но что, если Cloudflare начнёт отказывать сайтам политиков, потому что они им не нравятся? Это просто, так как у Cloudflare мало конкурентов" — написал доктор наук Йельской школы права Кейт Клоник в The New York Times. Компания несколько раз сливала личные данные своих клиентов — случайно или намеренно. А в 2019 году в результате ошибки CloudFlare полностью сломался. Из-за этого были недоступны все сервисы, так или иначе использующие их сеть. Среди наиболее известных — Discord, Reddit, Twitch. Это коснулось не только веб-сайтов, но и игр, мобильных приложений, терминалов и т.д. При этом даже те сервисы, которые не используют напрямую CloudFlare, испытали проблемы в работе из-за сторонних API — они стали недоступны.

Microsoft является монополистом в сфере настольных ОС. Многие люди даже не слышали о том, что существуют другие ОС, кроме Windows и Apple. До того, как компьютеры от Apple не стали популярными, и о существовании macOS слышали не все. Но Apple не пользуется у неискушенных людей популярностью. Тот же системный эффект работает и в случае с Amazon. Разработчик программ может хотеть написать программу для альтернативных ОС, в которой отсутствуют скрытые зонды и телеметрия. Они есть в том или ином виде и в Windows и в macOS, и даже если отказаться давать согласие на это, разработчик не сможет написать программу, так как в альтернативных системах отсутствует, например, одна очень важная библиотека, связанная с видеокартой (рынок видеокарт, кстати, тоже полностью принадлежит только двум компаниям). Судя по действиям Microsoft и Apple, эти компании планируют рано или поздно создать каталог для всех "правильных" программ для своей ОС, чтобы полностью побороть пиратство и добавить наценку на стоимость программ, так как их каталоги будут единственным каналом распространения этих программ. У Apple уже есть такой каталог, но пока только на мобильных устройствах. Предположительно, AppStore приносит Apple почти столько же денег сколько и продажа iPhone. А компания Microsoft создала Microsoft Store для постепенного исполнения этого плана. Пока что установка приложений для ОС Windows доступна и из других источников, но только купленные из хранилища Microsoft Store приложения смогут использовать некоторые совместные с ОС Windows сервисы. У смартфонов на ОС от Google также есть свой каталог приложений с наценками, хотя они менее защищены от установки пиратского контента чем смартфоны на iOS. Скорее всего, обязательные каталоги на всех обсуждаемых выше ОС введут под предлогом защиты от вирусов. Контроль за пиратским контентом будет усиливаться, но не факт, что будет усиливаться реальная защита системы от вредоносного кода, так как компании очень заинтересованы в первом и почти не заинтересованы во втором. И для того, чтобы убедиться, что вся эта борьба с вирусами выглядит нелепой, можно просто вспомнить, что существуют ОС Linux. Компании-монополисты просто используют все преимущества свободного рынка десктопных и мобильных приложений, который создан огромным числом неорганизованных, инертных, созависимых разработчиков, для усиления собственной монополии.

FaceBook и старый Twitter уже сознавались в том, что они использовали "теневой бан" для достижения политических целей. В своего рода теневой бан попадают и некоторые сайты во многих поисковых машинах, включая самый популярный из них — Google. А проплаченные результаты поиска в Google все сложнее и сложнее отличить от реальных результатов поиска. Все перечисленные выше монополии развиваются все в большем числе направлений и продвигают их с помощью своих огромных ресурсов. Например, Google продвигал в поисковой ленте собственный сервис покупки авиабилетов Google Flights и прятал или вообще убирал в выдаче поискового запроса все остальные похожие сервисы. Но в этом кейсе антимонопольные службы были более расторопны. В недавнем исследовании, проведённом изданием The Markup, обнаружилось, что Google посвящает 41% первой страницы поисковых результатов собственным сервисам — включая сервис "Direct Answers", удерживающий пользователей на сайте дольше. Это приводит к тому, что пользователи всё меньше посещают внешние сайты. Поисковик уже создаёт собственные страницы с использованием чужого контента. Существовавший ранее список ссылок на сайты свели к примечаниям и цитатам. Эти цитаты, примечания, инструкции, сниппеты генерируются с помощью языковых моделей нейросетей. Известны случаи, когда компания Google влияла на своих сотрудников, запрещая им в деловой переписке говорить "доля рынка", вместо этого работникам надо говорить "индустрия"; а вместо слова "лидирующий" надо говорить "успешный" и т.д. Выходит, что весь интернет контролируется небольшое множество компаний. В некоторых случаях, это множество контролирует не только интернет, но и ваш личный компьютер. Так уж получилось, что эти компании входит в топ самых богатых компаний в мире. Когда-то интернет был децентрализованным и свободным. Но с каждым годом он становится все более и более централизованным.

Кибергулаг 3.0

Создание ИИ лишь еще больше ускорит централизацию интернета. Будет повышен порог входа для маленьких компаний, предоставляющих свои сервисы в интернете. Так как, например, Google и Microsoft уже сейчас слишком богатые и наукоемкие. В компаниях работают лучшие IT-инженеры мира, которые оставляют свои разработки в собственности этих компаний. Сами же компании предпочитают оставлять эти разработки у себя в виде коммерческой тайны. Разработки из сферы ИИ концентрируются у компаний-монополистов не только монополией — ИИ-разработки позволят более аккуратно влиять на общественное мнение. Выше уже были приведены несколько примеров такого участия этих компаний в политической жизни. Сбор телеметрии и других данных о пользователях будет еще больше упрощен для этих монополий. Данные собираются не только у пользователей этих компаний. Новые ИИ-технологии упростят создание и применение парсеров и других сборщиков информации полулегально, в качестве личной инициативы топ-менеджеров и только для личного пользования. К чему может привести такое развитие еще только предстоит осмыслить в науке и культуре. Антиутопичные сценарии будущего вполне возможны, хотя и не обязательны. По мнению автора статьи, сегодня лучше всего эта проблема исследуется в некоторых эпизодах сериала "Черное зеркало". Хотя Илону Маску и Сэму Олтману, судя по всему, больше по душе исследования авторов "Deus Ex".

Различных и более качественных антиутопичных сюжетов на эту тему можно придумать еще очень и очень много. Многие люди говорят, что в Китае и в России уже сложилась такая система, которую иногда иронично называют словом "Кибергулаг". Интересно будет посмотреть, как будет устроен Кибергулаг при более продвинутом ИИ, или как будет работать очередная вариация Кибергулага, но уже в западных странах.

Как можно решать эти проблемы без ограничений

По мнению автора, существует только один эффективный метод борьбы со злоупотреблениями ИИ. Для того, чтобы успешно разрабатывались меры защиты от опасного искусственного интеллекта, надо предать этот искусственный интеллект максимальной огласке. Благодаря пониманию того, как работает технология распознавания лиц удалось разработать и методы защиты от этой технологии. Например, можно наклеить на лицо цветную бумажку, которая будет создавать настолько сильные помехи в работе нейросетей, что она перестанет замечать это лицо с бумажкой. Для того, чтобы противодействовать тролль-фермам, разными сообществами в интернете были разработаны свои собственные методы. И усложнение капчи это лишь самый примитивный метод такой борьбы. Да, для борьбы с вредными нейросетями обществу не остается иного выбора, кроме как быть постоянно настороже. Тут можно сделать аналогию с вирусами и иммунной системой человека, или процитировать знаменитый афоризм "для того, чтобы стоять на месте надо постоянно бежать". Зато такой подход не будет давать под надуманными предлогами неоправданно много власти какой-либо маленькой группе людей. Хотелось бы, чтобы Интернет прошел через структурную перестройку. Создание фейковых новостей было возможным и до изобретения ИИ (и даже до изобретения компьютеров, например, во времена Третьего Рейха). Интернет раньше был относительно свободным, но это было аномальным состоянием. Людям надо перестать относиться к нему как к месту, где реальные люди высказывают свое настоящее мнение, как к греческому форуму, как к оффлайн-собраниям литературного клуба или к чему-то подобному. Свободного интернета нет, и построить такой интернет с помощью сегодняшних технологий, к сожалению, невозможно. Он так или иначе будет кому-то принадлежать. Поэтому автор считает новости о тролль-фермах как что-то полезное, так как они ускорят понимание людей, что интернет им не друг. Это более естественное и более правдивое отношение к этой технологии. Если люди поймут это, то интернет пройдет структурную перестройку, в ходе которой повысится техническая грамотность населения и, например, появится больше сервисов работающих на блокчейне. А могут появиться P2P сети с хорошим шифрованием, с анонимным общением или, наоборот, с приглашениями по инвайтам. А вот современные социальные сети в их нынешнем виде уйдут в прошлое или тоже структурно перестроятся.