Будущее Искусственного Маразма (ИИ).
Четыре недели до конца календарного года: выводы делать не хочется, строить планы на ближайшее время не получается, но можно попробовать заглянуть в отдалённое будущее. Его силуэт уже виден сквозь пелену сегодняшнего дня.
Прямо сейчас происходит скандал в американской компании OpenAI - это лидер рынка больших моделей на основе искусственного интеллекта, разработчик того самого ChatGPT. Кроме личных амбиций здесь столкнулись и две концепции развития ИИ, которые повлияют на будущее: будет ли он открытым и всемирным ресурсом, или же его будут коммерчески использовать корпорации-акционеры?
В первом случае не понятно, кто будет финансировать его разработку, контролировать работу и отвечать за результат? Во втором - кто гарантирует, что корпорации в погоне за прибылью не модифицируют ИИ самым причудливым образом? И, наконец, не приведёт ли развитие ИИ к «взрыву интеллекта», когда технологический рост станет неконтролируемым и необратимым, с непредсказуемыми изменениями человеческой цивилизации?
30 лет назад упоминания об ИИ встречались только в научной фантастике. Два года назад о нём всерьёз заговорили специалисты. Сегодня же каждый школьник может накликать себе связный текст по заданному предмету. Разумеется, это поверхностные, игровые функции, есть и более серьёзные.
В мире уже известно несколько больших моделей искусственного интеллекта. Полноценно их никто не сравнивал, о целях, задачах и возможностях их использования полной и достоверной информации не существует. Отчасти потому, что создатели их сами не до конца понимают, и эксперимент идёт без каких бы то ни было средств предохранения. Другая причина - коммерческая и военная тайна, ведь среди акционеров больших моделей есть и Google, и Microsoft, и Пентагон, и Ми6, и китайское правительство. Все они тоже экспериментируют напропалую.
Для регуляции работы ИИ сегодня не разработано никакой базы: ни правовой, ни этической, ни технической. Не существует органа, который хотя бы гипотетически мог бы взять на себя подготовку и контроль за регламентом использования ИИ в планетарном масштабе.
Ядерное оружие худо-бедно регулируется международными соглашениями, но если чья-то взбесившаяся модель ИИ выйдет из-под контроля, - не факт, что у неё хотя бы предусмотрена кнопка «выкл». Стремительный скачок в развитии ИИ не сопровождается разработкой правил его использования. Впрочем, это неудивительно - мы до сих пор не можем договориться о единой форме штекера зарядного устройства для смартфонов.
Человечество очень мало обсуждает проблему использования ИИ. На фоне локальных войн по всей планете этот вопрос остаётся на периферии. Одним из оправданий служит мнение некоторой части экспертов, что разумность моделей ИИ преувеличена их создателями. Но скачок заметен даже скептикам: уже сегодня ChatGPT может переписать всю Википедию целиком, не говоря уже о мелких вмешательствах.
Учитывая общий уровень манипуляций в медиа вообще и в социальных сетях в частности, сегодня смело можно прогнозировать лавинный рост сгенерированной информации в самом ближайшем будущем. Возможно, уже следующую мою статью или появление на экране сфабрикуют с помощью ИИ, стремительно научившегося на многих часах моего же эфира.
За последние три года связность мира сильно пошатнулась - и транспортная, и экономическая, и культурная. Шансы, что удастся прийти к какому-то согласию и совокупными усилиями выработать правила использования, ничтожны. Наоборот, тенденция к расколу на отдельные пути развития в разных областях будет только нарастать. Гиганты рынка, а в скором времени и малые игроки, построят себе каждый свою модель и будут конкурировать так же, как на рынке вооружений. Применений у ИИ много, есть где развернуться - от «добродетельной инженерии» до «социального рейтинга», от стратегических до психологических операций в тылу врага.
Разумеется, есть и огромное количество плюсов, которые несёт в себе совершенствование моделей ИИ. Использовать его приятно, он может быть полезным. Но только до определенной степени. Я - существо мрачное. И вижу варианты светлого будущего только в том случае, если человечество решит оставить за собой право первородства, а не променяет его на виртуальную чечевичную похлёбку.
Вряд ли в ближайшие пять лет ИИ станет настолько умным, чтобы уничтожить человечество. Но он уже сейчас достаточно догадлив, чтобы услужить хитрому владельцу - большой корпорации, которая стремительно учится превращать людей из потребителей в ресурс. Но о постгуманизме и трансгуманизме я расскажу вам на следующей неделе.
