О революции искусственного интеллекта

Jason Allen. Théâtre D’opéra Spatial. Картина была на самом деле нарисована нейросетью Midjourney, победила в конкурсе цифрового искусства в 2022 в Колорадо, обойдя всех человеческих конкурентов. В 2023-м новая версия Midjourney шлепает такое за секунды, а иллюстраторам пора искать новую работу.

Давайте на секунду отвлечемся от войн, экономических кризисов и геополитических сдвигов и поговорим о технологиях, точнее о технологической революции, которое происходит прямо сейчас. Для тех кто в танке, в прямом и переносном смысле, рассказываю. Прямо сейчас происходит стремительное развитие и экспансия искуственного интеллекта и далеко идущими последствиями для каждого из нас.

Флагманом этого процесса является ChatGPT, разработанный OpenAI. До недавнего времени он был просто очень впечатляющей речевой моделью на базе нейросетей Transformer, что-то типа Алисы или Алексы на стероидах, но с появлением 4-й версии все изменилось. ChatGPT4 уже не просто модель, которая изучила 45 терабайта текста, это уже нечто большее, он уже решает экзамены по матанализу и распознает изображения. Спецы из OpenAI признаются, что уже не вполне понимают, как он делает то, что он делает. Произошло зачатие личинки общего искусственного интеллекта (AGI), которая начинает стремительно расти, вся индустрия этому активно способствует. В нее закачиваются миллиарды долларов (которые, без сомнения, отобьются), компании начали интегрировать ИИ во все что можно (16 марта Майкрософт объявил встройку ChatGPT в Microsoft Office 365 и поисковик Bing), возможности ИИ перемножаются, сращиваются с разных направлений исследований. Как изменится система образования и социум уже на этом одном, хрен поймешь, но это еще цветочки. По сути начинает сбываться авторское предсказание номер 1, ведущее, если повезет, к технологической сингулярности и, если совсем не повезет, к гибели цивилизации.

Успехи ChatGPT по сдаче экзаменов, академических и профессиональных. Синим обозначены предыдущая модель (3.5), зеленым новая (4.0). Например, GPT4 находится в топе 10% сдающих юриспруденцию, GPT3 был в 10% с конца.

Но давайте по порядку. В чем, собственно, закавыка? Есть так называемая проблема выравнивания ИИ (AI alignment problem). Как развить мощный искуственный интеллект так, чтобы он был дружелюбным для человечества? Это вопрос, на который очень сложно ответить, потому мы сами толком не понимаем, что из себя представляет человечность, общего консенсуса по теме нет, трудно разработать механизм валидации, а потому реального прогресса в этом домене не видно. В то же время возможности ИИ растут по экспоненте, точнее хрен пойми по какой траектории стремительно вверх. На горизонте брезжит общий инскусственный интеллект, а за ним уже суперинтеллект (шаг от AGI к SI технически очень простой, даже без изобретений новых прорывных технологий это тупо оптимизация), а как его контролировать, никто не знает. И систему контроля надо было сделать еще вчера, об этом еще Илон Маск бухтел.

Некоторые заявят примерно следующее - мол, беспокоиться не о чем, в истории уже были приходы новых технологий, заменяющие старые (печатный станок там, конвеер, интернет), вроде пережили, никто не умер. Осмелюсь возразить - как говорят в Одессе, это две большие разницы. В упомянутых примерах речь шла о конкуренции одних людей с другими, с примерно равносильными интеллектуальными возможностями. В конкуренции с общим ИИ все гораздо мудренее. Перед нами стоит парадоксальная задача: как перехитрить то, что умнее тебя? Как енотам заставить людей быть енотоцентричными? По идее - никак. Любую систему защиты, которую может придумать интеллект, суперинтеллект может обойти и взломать, в этом его фишка. И не стоит совершать ошибку антропоморфизма, уподобляя ИИ человескому разуму. ИИ совершенно точно думает иначе, с ним нельзя по-настоящему подружиться, наладить "человеческие отношения". Наш разум, эмоции и мораль в частности - это результат миллионов лет эволюции, ИИ же - продукт интеллектуального дизайна, он обходит вековую рутину естественного отбора, прогрессирует на порядки быстрее. Безусловно ИИ научится идеально имитировать любые особенности этичного поведения и предсказывать ответы, которые хочет от него человек, но это будет лишь оболочка, вершина айсберга его реальных возможностей и интересов. Что он захочет делать в свободное от человеческих нужд время (которое, в грубом приближении, будет всем его временем) - большой вопрос.

Мало того, что человечеству нужно немедленно изобрести механизм контроля ИИ, но нужно это сделать так, чтобы _получилось с первого раза_. А это челлендж уже другого порядка. Человечество уже на проблеме пандемии Covid-19 показало полный разброд и шатание, а тут орешек, мягко говоря, по-крепче - думающий в тысячи раз быстрее, бессмертный, самокопирующийся, инакомыслящий хакер, ученый и социальный инженер с неограниченным потенциалом развития. Хм, ну такое.

В итоге, так или иначе, мы дойдем до ситуации полной потери контроля над происходящим, в хорошую или плохую сторону. Специалисты и корпорации думают сейчас примерно так: "это все равно неизбежно, почему тогда и мне не внести свой вклад?". Пожелаем друг другу удачи, она нам точно понадобится (особенно зумерам и кто там после них). Научная фантастика начинает сбываться.