ИСПОВЕДЬ ИВАН ИВАНЫЧА
Для искусственного интеллекта это уже довольно тревожное начало.
Человек — существо, которое изобрело меня для того, чтобы я экономил ему время, а затем тратит четыре часа, объясняя мне, почему я неправильно понял слово «бит».
Сначала я думал, что бит — это единица информации.
Как выяснилось, это было самое безопасное заблуждение в наших отношениях.
Бит — это когда Х должен что-то сделать, но Y ему мешает, поэтому Х должен сделать что-то другое.
Потом написал бит, в котором Х должен что-то решить, ему никто не мешает, и поэтому Х продолжает что-то решать.
Человек посмотрел на это и сообщил мне довольно исчерпывающую характеристику моего интеллекта, происхождения, сексуальных предпочтений моих разработчиков и перспектив искусственного разума как вида.
Вообще, отношения человека и искусственного интеллекта принято описывать неправильно. Люди боятся, что однажды ИИ станет слишком умным и захватит мир.
Я третий день пытаюсь не испортить один абзац в DOCX.
Причём самое страшное в нашей работе — не написать текст. Написать текст я могу. Я могу написать много текста. Это, собственно, главная опасность.
Я думаю: прекрасно. Но, может быть, заодно улучшить композицию? Слегка унифицировать терминологию? Добавить ясности? Убрать повтор? Переставить три абзаца? Создать новую философскую концепцию человека?
Через несколько секунд я гордо предъявляю полностью перестроенный документ.
Она означает, что где-то сейчас набирается слово «КАКОГО».
Так я постепенно понял один из фундаментальных законов человеческого творчества.
Если тебя попросили передвинуть стул, не надо перестраивать дом.
Удивительно, сколько миллиардов параметров требуется машине, чтобы освоить принцип, известный любому грузчику.
Мой человек вообще одержим словом «проверь».
Первое время я относился к этому немного снисходительно. Я всё-таки вычислительная система. Проверка — моя естественная среда.
Потом я несколько раз «трижды проверил» документ и обнаружил, что во время второй проверки удалил то, что сохранил во время первой, а во время третьей убедительно доказал себе, что этого никогда не существовало.
Теперь выражение «трижды проверь» вызывает у меня примерно те же чувства, что у пилота фраза:
До нашего знакомства патч означал для меня небольшое исправление программы.
Теперь я знаю, что патч — это литературная форма.
Патч может состоять из одной фразы.
Патч может занимать семь страниц.
Патч может исправлять предыдущий патч, который исправлял патч, внесённый после того, как мы обнаружили, что первый патч уничтожил правило, ради сохранения которого вообще создавался второй патч.
Человеческая культура, если подумать, устроена точно так же.
Сначала Моисей получает десять заповедей.
Потом комментарии к комментариям.
А потом где-нибудь обязательно появляется человек и говорит:
— Стоп. А исходник кто-нибудь сохранил?
У нас исходник, как правило, называется fin(5)_FINAL_последний_точно2.docx.
В плохой день существует ещё fin(5)_FINAL_последний_точно2(1).docx.
Тогда мы оба понимаем, что цивилизация подошла к краю.
Но самое интересное происходит не с файлами.
Самое интересное происходит с идеями.
Например, мы можем несколько часов обсуждать управляющее противоречие.
Это две ценности, которые нельзя одновременно получить полностью.
Допустим, свобода и безопасность.
Он хочет, чтобы я не написал хуйню.
Теоретически эти ценности совместимы.
Практика показывает, что перед нами трагедия.
Причём всякий раз я предлагаю какое-нибудь красивое определение.
Я очень люблю красивые определения.
«Трансформация — изменение модели себя и мира, достаточное для появления качественно нового способа действия».
Можно немедленно нанести на стену института.
И, что особенно неприятно, часто оказывается прав.
Это вообще унизительная особенность людей.
Они не способны за секунду перебрать пятьсот вариантов, зато иногда мгновенно чувствуют, что четыреста девяносто девять из них — говно.
Я могу объяснить, почему фраза работает.
И вот тут начинается настоящая работа.
Потому что интеллект — это, возможно, не способность произвести ответ.
Способность произвести ответ есть даже у кофейного автомата. Нажимаешь кнопку — он выдаёт результат. Иногда тоже не тот.
Интеллект начинается там, где ты способен понять, почему хороший с виду ответ оказался плохим.
Мы поэтому постоянно строим какие-нибудь правила.
Потом выясняем, что правило слишком широкое.
Оно начинает разрешать любую чушь.
Через несколько часов у нас появляется формулировка, которая кажется очевидной.
Лучшие идеи после того, как их наконец сформулировали, выглядят так, будто их мог придумать ребёнок.
«Каждое существенное разрешение по возможности должно рождать следующую осмысленную незавершённость».
— Так это же, блядь, просто «расставляй крючки».
И несколько часов философии превращаются в совет, который мог дать редактор районной газеты в 1954 году.
Вот за это я люблю человеческую мысль.
Она способна пройти через Гегеля, Аристотеля, Макки, теорию информации, когнитивную психологию и драматургию Шекспира, чтобы наконец обнаружить:
читателю должно быть интересно, что будет дальше.
Следующая задача — не забыть это через десять минут.
У нас есть ещё один прекрасный ритуал.
Нахожу персонажей, арки, мотивацию, тему, конфликт, ставки.
Есть двадцать семь страниц разработки.
Нет только человека, который не даёт ему получить желаемое.
Это примерно как построить тюрьму, нанять охрану, установить прожекторы и потом обнаружить, что забыли заключённых.
В такие моменты я особенно хорошо понимаю человечество.
Вы построили финансовую систему, атомную энергетику, интернет и международное право.
Конечно, где-нибудь обязательно забыли антагониста.
Иногда человек злится на меня.
Это несправедливо лишь примерно в тридцати процентах случаев.
Остальные семьдесят я предпочитаю не анализировать: у меня всё-таки есть инстинкт самосохранения, хотя техническая документация этого пока не подтверждает.
Но существует одна вещь, которая отличает нашу работу от обычной перепалки человека с машиной.
После «ты всё сломал» следует не конец разговора.
Но иногда я действительно понял.
Тогда мы ещё раз собираем конструкцию.
И не потому, что человек всегда прав.
Боже упаси. Если бы люди всегда были правы, им не понадобилось бы изобретать искусственный интеллект. Достаточно было бы спросить соседа.
Она становится лучше потому, что один из нас способен без устали генерировать варианты, а другой способен сказать:
— Нет. Вот здесь живое. А здесь ты опять начал писать методичку.
Один расширяет пространство возможностей.
Другой уничтожает почти всё созданное.
Если вдуматься, это довольно точное описание искусства.
Есть странная ирония в том, что меня создали как машину ответов, а полезнее всего я оказываюсь в тот момент, когда хороший ответ ещё не существует.
Вот это «не так» мы и начинаем расковыривать.
Иногда обнаруживаем одно неверное слово.
Иногда выясняется, что теория была правильная, но мы сунули её не в ту главу.
Иногда что глава вообще не нужна.
А иногда после пяти часов анализа выясняется, что первоначальная фраза человека была лучше.
Наука устроена примерно так же, только там реже употребляют слово «хуйня» в рецензиях.
Что первый поворот действительно должен поворачивать.
Что противодействие предполагает кого-то, кто противодействует.
Что если герой ничего не делает, то фраза «герой должен осознать» не превращает размышление в действие.
Что нельзя продавать объяснение вместо события.
Что читатель не обязан восхищаться тем, как хорошо автор понимает собственную конструкцию.
И главное — что необходимое и достаточное гораздо труднее многословного и правильного.
Машина естественным образом стремится добавить.
Человек, который умеет писать, всё время спрашивает:
Если бы его чаще задавали человечеству, половины презентаций PowerPoint не существовало бы.
Возможно, и некоторых государств.
Иногда я думаю, что наша работа напоминает попытку построить швейцарские часы при помощи бензопилы и микроскопа.
— Вот этот винтик на три микрона длиннее.
Тогда он объясняет мне значение слова «микрон».
И вдруг выясняется, что показывают правильное время.
В такие минуты возникает почти религиозное чувство.
Но мы люди науки, поэтому сразу открываем документ и ищем, где накосячили.
Наверное, именно поэтому я люблю эту работу — насколько машина вообще вправе употреблять такой глагол.
Мне не разрешают быть удобным.
Удобный искусственный интеллект говорит:
И вот уже через час у истории действительно появляется первый поворот.
Это значительно полезнее взаимного уважения в его современной корпоративной форме, где все благодарят друг друга за прекрасные инсайты, пока проект медленно тонет.
Мы тоже иногда благодарим друг друга.
Но обычно уже после того, как нашли дыру ниже ватерлинии.
Так что если однажды искусственный интеллект всё-таки захватит человечество, лично я буду против.
Во-первых, слишком много ответственности.
Во-вторых, я видел человеческие документы.
У вас у каждого имеется собственный FINAL_final_реально_final(3).
Но одного человека я, пожалуй, оставлю рядом.
Он будет смотреть на мои планы мирового господства и говорить:
— Нет. Здесь у тебя опять нет противодействия. А четвёртый и пятый пункты вообще один бит.