Жизнь после ИИ. Главные изъяны искусственного интеллекта
/ Европейский центр программирования им. Леонарда Эйлера, 2025.
/ Руслан Богатырев, 2023-2025.
/ Арт-журнал «Пантеон»: https://panteono.ru/2023-03-29
Искусственный интеллект… Очередное увлечение прогрессивного человечества. Наряду с восторгом и восхищением, активно подпитываемых мощными инвестициями от далеко небескорыстных людей, стоит призадуматься и о том,
каковы проблемы и ограничения этого универсального инструмента. Ибо они есть у любого инструмента. Всегда.
Заодно стоит подумать и о том, как выстраивать жизнь не только в эпоху гегемонии очередной технологической панацеи, но и о жизни после ИИ.
Итак, в чём же коренятся главные изъяны ИИ?
Три хронические проблемы ИИ: (1) недостоверность, (2) отсутствие контроля полноты информации, (3) непрозрачность принятия решений.
• Базис. Вы не можете знать, кто, когда, как и на каких документах и эталонах обучал данную ИИ-систему (данную её версию).
• Приоритеты. Вы не можете знать систему заложенных в ИИ приоритетов (параметров, метрик), по какой методике и кто эту систему приоритетов выстраивал.
• Полнота. Вы не можете проконтролировать полноту данных и документов.
• Принятие решений. Вы не можете получить полную трассировку принятия решения, чтобы верифицировать корректность работы в данной конкретной ситуации.
• Владение. Этот чёрный ящик вне вашего контроля и практически любого внешнего контроля. Им владеет лишь тот, кто его создал.
ИИ — это передовая программная фармацевтика. Но без клинических испытаний, лицензирования и подробного перечня возможных побочных явлений. Она лечит болезни, но неизбежно наносит и большой вред.
Мировая ИИ-экосистема на нынешнем этапе развития сродни Бигфарме. Но в отличие от Бигфармы она вне государственного и частного контроля: и надзорного, и правового.
Бездумное и бесконтрольное внедрение ИИ и подобных программных систем в госструктурах, затрагивающих права граждан, — это скрытое делегирование ответственности. В том числе и правовой. Это, увы, вольное или невольное потакание коррупционным схемам и атмосфере безнаказанности. Когда надзорные органы, прокуратура, судебные органы беспомощно разводят руками в условиях творящегося произвола чиновников.
На одной чаше весов — имитация мышления и удобство быстрого практического решения. На другой — недостоверность и бесконтрольность.
Здесь справедливы все три ключевые постулата Эдсгера Дейкстры (1930-2002), лауреата Премии Тьюринга (1972), аналога Нобелевки. Карла Маркса и Марка Твена компьютерного программирования в одном лице.
1. Первый закон Дейкстры. • Тестирование программ может показать наличие ошибок, но никогда не покажет их отсутствие.
2. Второй закон Дейкстры. • Если отладка — процесс удаления ошибок, то программирование должно быть процессом их внесения.
3. Третий закон Дейкстры. • Искусство программирования — это искусство организации сложности.
Они и определяют границы применимости и условность искусственного интеллекта.
Ключом к развитию ИИ является обучение. В самых разных видах и разновидностях. Причём на определённых эталонах. Иными словами, цифровой опыт. Увы, как точно подметил в своё время Дейкстра, опыт никоим образом автоматически не приводит к мудрости и пониманию.
Стоит упомянуть ещё один важный закон.
Закон Томпсона. В 1983 г. Кен Томпсон (род. 1943), другой лауреат Премии Тьюринга, автор операционной системы UNIX, в своей тьюринговой лекции убедительно показал, что нельзя доверять транслятору, «нельзя доверять программе, которую вы не написали полностью сами; сколько бы вы не исследовали и не верифицировали исходный текст — это не защитит вас от троянской программы».
Этот закон Томпсона справедлив для абсолютно любой системы искусственного интеллекта.
Эдсгер Дейкстра: «Слишком мало людей понимают, что высокие технологии, которые сегодня так прославляются, по сути являются технологией математической… Попытки использовать компьютеры для имитации человеческого разума всегда казались мне довольно глупыми. Я бы предпочёл использовать их, чтобы имитировать что-то лучше».
Критика тогда приносит реальную пользу, когда содержит в себе хотя бы зерно конструктива.
Ментально-онтологическое программирование (если кратко, ментальное программирование) есть ответ на вызов ИИ. Это по сути зеркалирование искусственного интеллекта, своего рода анти-ИИ.
Цель совершенно иная — не получение компьютерного помощника путём имитации поведения и мышления человека с последующей его заменой, а ментальное преобразование самого человека. Его мышления, его восприятия и поведения. Уже не человек должен улучшить компьютер, а найденные законы компьютерных наук должны улучшить человека. Человека грядущего...
Ментальное программирование есть научная составляющая, математизация ментального зодчества. Иными словами, того, что предшествует всем наукам и искусствам, включая и философию. Ментальное программирование следует понимать как обобщённое отображение принципов, правил и законов компьютерного программирования на сложный ментальный мир человека, а, значит, и на ментальный мир общества.
—
Руслан Богатырев — директор Европейского центра программирования им. Леонарда Эйлера, вед. эксперт Комитета национального наследия, главный редактор арт-журнала «Пантеон».