Вычислительные пруды и кроличьи норы

# Интерлюдия: Computing Ponds and Rabbit Holes — Вычислительные пруды и кроличьи норы

У Стаффорда Бира был «вычислительный пруд», который он однажды описал в лекции:

> Было проделано множество экспериментов… Железные опилки добавлялись вместе с отмершими листьями в резервуар с дафниями, которые поглощали достаточное количество опилок, чтобы реагировать на магнитное поле. Предпринимались попытки подавать входные сигналы колонии… Однако было множество экспериментальных проблем. Самой серьёзной из них был коллапс любой зарождающейся организации — по-видимому, из-за steadily increasing suspension крошечных постоянных магнитов в воде.

Из контекста не до конца ясно, была ли это шутка, упражнение в медитации или просто домашний пруд, но кажется весьма вероятным, что его эксперименты были как минимум полусерьёзными.

Идея заключалась в том, чтобы манипулировать прудом так, чтобы начальные условия содержащихся в нём водорослей и личинок насекомых могли каким-то образом, никогда до конца не определённым, соответствовать вычислительной задаче. Надежда была в том, что затем эволюционный процесс прудовой жизни можно было заставить — ещё менее определённым образом — развиться так, чтобы представить решение.

Бир также работал с коллегой-кибернетиком Гордоном Паском, пытаясь научить чашку Петри выращивать ухо. Это была цепь обратной связи, которая посылала электрические токи, стабилизирующие или разрушающие кристаллические структуры, растущие в растворе сульфата железа, пока чашка не «настраивалась» и не начинала различать разные частоты.

Кибернетики постоянно занимались подобными вещами. Строили электронных «черепах», которые либо двигались к источникам света, либо убегали от них. Создавали схемы, которые перебирали разные напряжения случайным образом, пока набор из четырёх стрелок компаса не приходил в состояние плавающего равновесия. Стаффорд Бир даже придумал машину, которая учила детей решать системы уравнений, зажигая зелёный или красный свет и помогая им в их пробах и ошибках. Это был поиск того, что Бир называл «тканью» (fabric): чего-то, обладающего свойствами компьютера, но не зависящего от того, что кто-то заранее записывает алгоритм.

Мечта исследований ИИ до сих пор заключается в перспективе «получить больше, чем вложил». По сути, «объяснимость», при всём том, что её считают важной этической целью, — это практически contradiction in terms применительно к системе, которую вы также хотите считать интеллектуальной.

Компьютер может перемножить два семизначных числа и извлечь кубический корень из их произведения, но это не особенно удивительно; вы знаете, что он просто повторил несколько очень простых арифметических операций. Даже когда компьютер находит в данных закономерности, которые раньше упустили все аналитики-люди, большую часть времени он делает это, применяя метод, который в принципе можно было бы выполнить карандашом и бумагой, будь у нас неограниченное время и ресурсы.

Другими словами, в «искусственном интеллекте» нет настоящей магии, если он объясним в этом смысле. Процесс объяснения по своей сути демистифицирует — это способ объяснить, как фокусник посадил кролика в шляпу, а затем вытащил его.

Но возможность чего-то вроде настоящей магии — огромная часть привлекательности ИИ. Мечта всегда заключалась в создании машины, способной на оригинальные мысли, на идеи, которые её создатели не могли предсказать и не могут объяснить. Если у вас есть система, не похожая на нечто с постижимой логической структурой, и она начинает выдавать логичные решения и ответы, в этом гораздо больше чувства чуда, чем от вычислительной машины, производящей вычисления.

Это, очевидно, верно, когда вы говорите о пруде, способном решать дифференциальные уравнения, или о чашке с сульфатом железа, обучающейся распознавать частоты.

Но даже с цифровыми компьютерами существуют алгоритмы и способы думать о программировании, которые делают гораздо более трудным понимание того, куда кролик вошёл в шляпу, чем другие. Обычно это не самые эффективные или быстрые способы решения проблем, но из-за этой жуткой, тканеподобной природы это те способы, которые таят в себе захватывающую возможность делать то, что вообще невозможно сделать обычными методами.

Вот почему некоторые люди всегда больше воодушевлялись занятием компьютерными науками именно таким образом. И так было ещё до изобретения чего-либо, что мы сегодня могли бы назвать компьютером.