Как искусственный интеллект изменит мир

В обозримом будущем искусственный интеллект, возможно, изменит не только вашу жизнь, но и всего мира. Но людям трудно прийти к согласию, как это будет происходить. Мы приведём отрывки из интервью для Всемирного экономического форума, в котором известный профессор информатики и специалист по ИИ Стюарт Рассел поможет отделить разумные мысли от вздора.

Существует большая разница между тем, когда человека просят сделать что-то, и тем, когда это поручается системе ИИ. Когда вы просите человека принести чашку кофе, вы не имеете в виду, что это должно стать задачей его жизни и ничто другое во вселенной не имеет значения. Даже если нужно убить всех остальных в «Старбаксе» и добыть вам кофе, прежде чем кафе закроется, он должен это сделать. Нет, не это имеется в виду. Всё, что имеет ценность для нас обоих, должно учитываться в том числе и в вашем поведении.

Проблема в том, как мы сегодня создаём системы ИИ, — мы ставим перед ними фиксированную цель. Алгоритмы требуют, чтобы мы задавали цель в точности. Допустим, мы задаёмся вопросом: можно ли остановить закисление океана? Да, благодаря каталитической реакции это можно сделать очень эффективно, но для этого потребуется четверть атмосферного кислорода, что приведёт к медленной и мучительной гибели людей за каких-то несколько часов.

Как же разрешить эту проблему? Можно было бы предложить тщательнее определить цель, не забывая об атмосферном кислороде. Кроме того, конечно же, побочный эффект этой реакции в океане — отравление всей рыбы. Ладно, я имел виду также не убивать рыбу. А водоросли? Не делать ничего такого, что погубит водоросли. И так далее и тому подобное.

Причина, по которой нет нужды проделывать это с людьми, состоит в том, что люди часто знают, что они не знают обо всём, что важно для нас. Если вы попросите человека принести вам чашку кофе, находясь в отеле «Жорж Санд» в Париже, где чашка кофе стоит 13 евро, будет разумно, если он вернётся и скажет: «Здесь кофе стоит 13 евро. Будете пить за такие деньги или я мог бы купить его в другом месте?» Для человека такой вопрос был бы совершенно нормальным. Нормально также спросить: «Я собираюсь покрасить ваш дом. Можно, я вначале сниму водосточные трубы, а потом верну их на место?» Мы не считаем это чем-то исключительно сложным, но в настоящее время системы ИИ не обладают такой способностью. Они должны знать цель в точности. Если создавать системы, знающие о том, что они не знают цели, их поведение изменится и они станут спрашивать разрешение, прежде чем избавляться от атмосферного кислорода.

В этом смысле контроль над системами ИИ возникает из-за неопределённости у машины относительно настоящей цели. Когда создаются машины, знающие наверняка, что у них есть цель, они демонстрируют подобие «психопатического поведения». Думаю, что то же самое наблюдается и у людей.

Что произойдёт, когда в массовое производство поступят универсальные устройства ИИ? Как изменится ситуация и сможем ли мы приспособиться? Это очень старый вопрос. Удивительно, но Аристотель сделал такое утверждение: «Если бы у нас были полностью автоматизированные ткацкие машины и плектры были бы способны играть на лире и создавать музыку без участия человека, нам были бы не нужны работники».

По-моему, об этом высказывался Кейнс, называвший это технологической безработицей в 1930 году, и это очевидно для людей. Они думают, что, конечно же, если машина будет делать работу, тогда я окажусь безработным.

Подумайте о магазинах, через которые компании торгуют в интернете, — они наполовину автоматизированы. Раньше на полках в оптовых складах лежали тонны товаров, а работники шли, находили нужный товар, приносили его и отправляли покупателям. А сейчас есть роботы, которые берут с полки некие контейнеры, содержащие нужный товар, но человек должен всё равно достать товар из контейнера или снять с полки: это всё ещё слишком сложно для робота. Однако создадите ли вы робот, который с достаточной точностью сможет выбрать конкретный товар из широкого ассортимента товаров, доступных для покупки? Если да, то это изобретение одним махом уничтожит от трёх до четырёх миллионов рабочих мест.

Эдвард Морган Форстер написал интересный рассказ «Машина останавливается», в котором каждый полностью зависит от Машины. Рассказ на самом деле о том, что если вы передадите машинам управление своей цивилизацией, вы потеряете потребность понимать, как управляют миром, или обучать этому следующее поколение. Мультфильм «ВАЛЛ-И» можно считать современной версией этой идеи — в этом мире все стали хилыми и инфантильными из-за машин. Но до сих пор такое было невозможно.

Наша цивилизация очень подробно описана нами в книгах, но книги не могут управлять ею вместо нас. Мы всегда вынуждены обучать следующее поколение. Если разобраться, мы потратили где-то триллион человеко-лет на обучение и учёбу, и эта непрерывная цепочка уходит в прошлое на десятки тысяч поколений. Что произойдёт, если эта цепочка прервётся?

Думаю, что это надо понимать, развивая ИИ. Невозможно указать точную дату появления универсальных устройств ИИ. Невозможно указать какой-то определённый день. К тому же, это не случится за один день. Влияние будет постепенно возрастать. При каждом новом достижении в сфере ИИ будет существенно расширяться спектр задач.

Большинство экспертов считают, что в этом смысле к концу века, скорее всего, появятся универсальные устройства ИИ. По средней оценке экспертов, где-то около 2045 года. Я придерживаюсь более консервативного мнения. Я считаю, что эта задача сложнее, чем мы думаем.

Мне нравится, как ответил на этот вопрос Джон Макафи, один из первых разработчиков ИИ, он сказал, что на это уйдёт от 5 до 500 лет. И чтобы это произошло, понадобится несколько Эйнштейнов.