Настоящая опасность искусственного интеллекта заключается в том, что им управляют злобные поджигатели войны
Самая большая угроза, исходящая от искусственного интеллекта, — это не искусственный сверхразум, который уничтожит человечество в приступе механической мести, как некий цифровой Бог из Ветхого Завета, а те же олигархи и управленцы, которые, как обычно, причиняют зло и творят насилие по отношению к своим собратьям.
Мы уже сейчас наблюдаем, как империя внедряет искусственный интеллект в свои машины-убийцы и создает всевозможные ужасающие проблемы по мере того, как эти технологии становятся все более сложными и непредсказуемыми.
CNN сообщает, что военный искусственный интеллект США «чуть не спровоцировал войну» с Китаем, когда ему привиделся разведданные о китайском корабле, перевозящем компоненты ядерного оружия в Иран; американские военные самолеты, судя по всему, уже были в воздухе и готовились атаковать судно, когда человеческий разум распознал ошибку.
В недавнем отчете Пентагона официально сделан вывод о том, что чрезмерная зависимость от системы управления и контроля Maven, разработанной компанией Palantir и основанной на искусственном интеллекте, привела к бомбардировке школы в Минабе, в результате которой погибли 120 детей, посещавших занятия в первый день американо-израильской войны с Ираном.
Мы рано узнали, что во время холокоста в Газе Армия обороны Израиля использовала искусственный интеллект, чтобы бомбить предполагаемых членов ХАМАС, когда они находятся дома со своими семьями, а не на поле боя, с помощью программы под названием «Где папа?» — это такой израильский юмор по поводу того, что они будут убивать детей палестинских бойцов сопротивления, когда их отцы вернутся домой.
Мы видим, как политики вроде Берни Сандерса высказывают опасения, что «искусственный интеллект вскоре может стать умнее людей и выйти из-под нашего контроля», но самая очевидная и непосредственная угроза сейчас заключается не в том, что искусственный интеллект перехитрит нас и выйдет из-под нашего контроля, а в том, что он полностью контролируется глупыми и злыми людьми.
Опять же, мы точно знаем, что мощные вооружённые силы, обладающие ядерным оружием, внедряют искусственный интеллект во все свои системы. Мы видим, как они это делают, прямо у нас на глазах. К и без того напряженной и опасной обстановке военного противостояния по всему миру добавился еще один сложный и запутанный элемент: США и их союзники пытаются включить в сферу своего влияния несколько оставшихся стран, которым удалось сохранить суверенитет. Тем не менее в последние недели СМИ пестрят экспертными рассуждениями о возможных сценариях, при которых развитие искусственного интеллекта может привести к вымиранию человечества.
Мы уже знаем наиболее вероятный сценарий, при котором искусственный интеллект приведет к гибели всего человечества. Если это произойдет, то только потому, что богатые и влиятельные социопаты внедрят эти технологии в военную машину, предназначенную для массового уничтожения людей.
Все эти события разворачиваются на фоне новой безумной гонки вооружений с Китаем, в которой никто не хочет притормаживать, опасаясь отстать. Любые разговоры о регулировании или замедлении темпов, пока ситуация не вышла из-под контроля, отвергаются, потому что системы, основанные на конкуренции, которые в настоящее время управляют поведением людей, ввергли нас в кошмар постоянного военного экспансионизма и балансирования на грани войны, подпитываемого тем фактом, что эта парадигма делает технологических магнатов и военных спекулянтов неприлично богатыми.
Очевидно, что это самая непосредственная экзистенциальная угроза, которую искусственный интеллект представляет для нашего вида прямо сейчас. Есть и чуть менее пугающая угроза: искусственный интеллект позволит нашим правителям использовать массовую слежку и автономные системы вооружения, чтобы подавлять любые революционные политические движения до того, как они поднимут голову, и держать нас в этой причудливой капиталистической антиутопии до тех пор, пока планета не превратится в непригодную для жизни пустошь.
В любом случае это не новая угроза. Это та же старая угроза, только с новыми игрушками. Капитализм должен исчезнуть, а империя — пасть. От этого зависит само наше существование.