Об опасности искусственного интеллекта
Илон Маск и Марк Зукерберг недавно поцапались из-за разных оценок опасности искусственного интеллекта. Маск считает, что это реальная угроза, Зукерберг настроен оптимистично. Я тоже не так давно разглагольствовал об ИИ и нейронных сетях и о колоссальном воздействии на человечество сих технологий. Правда, знак этого воздействия так и не указал.
На мой взгляд, вопрос, опасен ли искусственный интеллект для человека, вообще не стоит. Тут я солидарен с Маском. Если ИИ будет способен более менее адекватно имитировать способности человеческого мозга, включая присловутую свободу воли, то ответ - однозначное "да". ИИ будет опасен человеку точно так же, как человек опасен человеку. Вопрос, на мой взгляд, в градациях - насколько опасен? Настолько, что сама затея его создания контрпродуктивна, или побочные эффектами можно пренебречь, введя дополнительные системы защиты? В любом случае, развитие ИИ технологий врядли можно остановить. Имхо, уже сейчас мы подходим к началу гонки вооружений похлеще времен разработки атомного оружия.
По-моему, ситуацию можно более менее держать в узде на начальных этапах, когда ИИ будет создаваться людьми. Но ситуация полностью выходит из-под контроля с возникновением самовоспроизводящихся ИИ, что приведет к резкому ускорению эволюции систем искусственного интеллекта и полной утери понимания людьми происходящего. Когда "черные ящики" создают другие "черные ящики", ситуацию невозможно прогнозировать. В такой ситуации число исходов, негативных для человечества или, скажем так, "непонятных", должно увеличиться.
Тем не менее, не считаю, что человечеству суждено быть порабощенным (уничтоженными) роботами в духе хардкорной постапокалиптики. Причина тут, имхо, скорее техническая. Каковы бы ни были цели ИИ, он очень ограничен в средствах достижения этих целей. Как ни парадоксально, но конструирование интеллекта - наиболее простая задача при создании человекоподобных (в широком смысле) роботов. Ее можно решить количественно, привлечением большого количества мощностей, объединенной работы большого числа суперкомпьютеров. А вот как создать опорно-двигательный аппарат, способный конкурировать с биологическими "мокрыми" аналогами? Вот где все предельно туманно. И я не имею в виду исключительно двигательный аспект (даже в котором величайшие роботы современности, вроде того же Asimo, откровенно лажают). Как создать систему, которая не требовала постоянного обслуживания, завода запчастей, артеля мясных и совершенно не роботизированных инженеров? Если же мы предположим, что роботы станут "мокрыми", то сама постановка вопроса теряет смысл. Это будет тупо соперничество двух разумных живых существ, потому как с конструкторской точки зрения человек, по сути, и есть "мокрый робот".
Роботы в классическом понимании лишены адаптивности и живучести живых организмов. В отсутствие этих характеристик они не могут по-настоящему конкурировать с последними. В каком-то смысле этот как противостояние человека с бактериями. Микрофлора была, есть и будет, с Homo sapiens или без. Аналогично, люди были, есть и будут, с роботами или без.