А вы бы послали робота на верную гибель?
Коллаж мой: картинка от нейросети Дезго и взрыв на Солнце.
Что за вопрос? - удивится читатель. Робот - он на то и робот, чтобы в случае смертельной опасности пожертвовать именно им, а не людьми. Железяка с электронными мозгами. У него нет ни личности, ни самосознания, ни того, что называют душой.
Автоматы без комплексов
Пока роботы или автоматизированные системы (например, зонды и станции, исследующие планеты и космическое пространство) являются только машинами и больше ничем, никаких этических проблем не возникает. Ну да, посадка оказалась неудачной, аппарат разбился, или связь с ним была утеряна, - жаль, конечно, но скорее жаль потраченного труда и огромных денег, однако о самой машине никто лить слез не будет. На ту же Венеру посылали исследовательские аппараты, заведомо зная, что жизни им отведено там несколько минут - больше не выдержат. Хорошо, если успеют передать информацию.
Автоматическая станция Венера-1: запущена 12 февраля 1961, через 7 суток полета связь с ней была потеряна. Макет из Музея космонавтики в Москве. Фото моё.
Наоборот, критики пилотируемой космонавтики часто говорят, что посылать живых людей в дальний космос (и даже в ближний!) нецелесообразно. Они хрупкие, уязвимые для радиации, нервные, кушать хотят, тоскуют по родным березкам (пальмам, баобабам, кактусам), иногда ссорятся между собой, своевольничают, могут с перепуга или по вредности что-нибудь не то сделать, - в общем, проблем больше, чем выгоды. Роботы, и только роботы! Эти не спят, не едят, не капризничают, не психуют, четко выполняют программу и безропотно гибнут, если так сложатся обстоятельства.
Робот-первопроходец. Картинка от Дезго.
Правда, если додумать эту мысль, она доведет нас до апокалиптических ужасов: боевые роботы могут быть хуже зомби, ибо на них магия не действует, и комплексов у них ровно никаких...
Впрочем, программируя таких терминаторов, люди вкладывают в них худшие свойства собственной натуры. Роботы не виноваты, совести у них нет (в буквальном смысле), и всё человеческое им заведомо чуждо.
Давайте не будем о боевой фантастике, я ее не жалую и рассуждать о ней не хочу.
Объявление на сельском банкомате. Фото моё, давнее. Орфография оригинала.
В общем, бесчувственную машину вполне можно послать туда, откуда она не вернется. Ни у машины, ни у ее владельца никаких душевных терзаний это вызвать не должно.
Душа Автоматея
Для моих читателей не секрет, что я очень люблю творчество Станислава Лема. Давно, почти год назад, я писала про его человечных роботов. Мне кажется, Лем очень многое угадал и описал заранее, в том числе возможные нравственные коллизии, связанные с использованием роботов, наделенных высокоразвитым ИИ. Роботы Лема настолько очеловечились, что у них появились и эмоциональные привязанности, и собственное творчество (упоительный цикл "Сказки роботов"). Помните?
"А я робот молодой, обливаюся водой, через кочку прыг да прыг, не страшусь я ни на миг"...
Иллюстрация от нейросети Кандинский
Но если робот - полностью антропоморфный (лицо, глаза, мимика, теплая на ощупь кожа), способен к эмоциональному общению, запрограммирован на личную привязанность к своему хозяину, отзывается присвоенное ему имя (не будете же вы обращаться к нему по серийному номеру? "R-945-Q-90, принеси мне тапочки!")...
Как обречь такое искусственное существо на верную смерть? Отправить в переплавку, поскольку модель устарела или у нее начались глюки? Ребенок вырос, роботоняня больше не нужна, а покупать подержанную никто не хочет - появились модели современнее и совершеннее? Или, что совсем печально, скончался в возрасте 120 лет престарелый родственник, за которым ухаживал робот-сиделка, и этого робота тоже придется утилизировать, поскольку у него возникла эмоциональная связь с клиентом, а клиент еще и поделился с ним своими воспоминаниями за 100 с лишним лет? Конечно, можно просто стереть роботу память, но это тоже сродни убийству.
Робот-сиделка от нейросети Дезго. Бабушка почему-то получилась похожей на покойную королеву Елизавету, мир ее душе.
В общем, это сильно напоминало бы архаические обряды, когда вместе с вождем на тот свет провожали его жен, слуг, охрану и любимую лошадь.
Но это чисто бытовые ситуации, с которыми может столкнуться в относительно близком едва ли не каждый человек. Тут остается право выбора: владеть или не владеть такими роботами.
Однако в условиях космоса (а это тоже реальность!) роботы незаменимы. И тут, конечно, ими придется жертвовать довольно часто.
Опять же, если это тупая машина, ей всё равно, куда ее посылают. А если ради сложных форм деятельности в нее вложено развитое сознание и некое подобие души (то есть способность к тонкой психической настройке)? И такой робот точно знает, что задание, на которое его посылают, завершится его гибелью?..
Допустим, сам робот, верный тем законам робототехники Азимова, будет испытывать героический подъем и гордость за свою самоотверженность.
А человек, успевший привязаться к электронному другу и воспринимающий его уже как живое существо? Что произойдет с психикой этого человека, если он сам - не робот?
Наверное, эти проблемы следовало бы исследовать космопсихологам.
Пока что их исследовали только фантасты, и самые думающие из них предлагали решения, при которых робот с ИИ принципиально не будет антропоморфным.
Робот Тарс из фильма "Интерстеллар" спасает героиню от чудовищного цунами. Стопкадр.
В цикле романов Артура Кларка и Джентри Ли об инопланетном звездолете Рама присутствуют два неантропоморфных робота - маленький рукодельный Хэл, созданный одним из героев, Ричардом, и присланный создателями Рамы в качестве консультанта и коммуникатора Орёл (возможно, намек на "зевесова Орла"?).
Картинка от нейросети Кандинский
В конце последней книги эпопеи, когда героиню, совсем уже старенькую Николь, допускают в святая святых инопланетной мудрости, и она понимает, что она приобщилась к Богу (по мне, это самая слабая часть повествования), пути назад уже нет. Николь предстоит умереть - якобы от переполняющего ее сердце восторга, а Орел сообщает ей, что после их экскурсии к Богу его отправят на переделку, полностью уничтожив память о виденном. Но Орел не испытывает человеческих эмоций и воспринимает это как закономерный итог своей карьеры (или переход на новую должность).
Возможно, такие решения оптимальны.
В самопожертвовании есть смысл, лишь если оно совершается с полным сознанием долга и возможных последствий. Роботы пока на такое не способны, поскольку ИИ в его нынешнем понимании не тождествен человеческому сознанию. А что будет, если сознание внутри ИИ всё-таки разовьется?
Я в своих романах этих проблем не затрагиваю. Мне хватает коллизий, связанных с моими героями, и землянами, и инопланетянами. Некоторые действительно добровольно идут на жертвы, и, как показывает будущее, эти жертвы оказываются не напрасными.
Так, историк с Лиенны, уйлоанец Лаон Саонс, главный герой романа "Письма Звёздному императору", добивается-таки организации археологической экспедиции на погибшую планету Уйлоа, лично участвует в раскопках, пренебрегая опасностью получить смертельную дозу радиации - и умирает по прилете на Тиатару (книга "Алуэсса"). Зато он добывает ценнейшие документы и артефакты, поднимая науку об истории Уйлоа на новый научный уровень.
Спрашивается: а почему было не послать на раскопки роботов?.. Роботы в экспедиции, конечно, были, но они занимались вспомогательными операциями. В археологии, когда даже специалист порой не знает, что именно он ищет и что находит, требуется живой интеллект, живое воображение, живая интуиция и немалая толика везения.
Мои романы из цикла "Хранительница" размещены на Бусти (тогда весь доход получит автор), на Литмаркете и на Литресе.
Роман "Письма Звёздному императору" (приквел к книге "Двойное кольцо") распространяется бесплатно.
Поддержать автора можно денежкой, лайком, комментарием или распространением информации об этом канале и о цикле "Хранительница".