Законы.
Все (надеюсь) знают, что:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Мало кто знает, что существует т.н. "нулевой закон" роботехники, сформулированный все тем же А.Азимовым 35 лет спустя в романе Роботы и Империя (Robots and Empire) (1985), который гласит:
0. Робот не может причинить вреда человеку, если только он {человек} не докажет {роботу}, что в конечном счёте это будет полезно для всего человечества.
(A robot may not harm a human being, unless he finds a way to prove that in the final analysis, the harm done would benefit humanity in general.)
PS. Удивительно, как много сюжетных линий вывели сценаристы фильма "Двухсотлетний человек" (с несравненным Робином Уильямсом в главной роли) из безусловно, отличного, но все же сборника рассказов "Я, робот" ("I, robot") (1950)
UP. Прочитал роман, а то по первой предъяве вне контекста непонятно кто-где-когда. Ну так вот: нулевой закон звучит так же, но смысл немного другой.
0. Робот не может причинить вреда человеку, если только он {робот} не докажет {человеку}, что в конечном счёте это будет полезно для всего человечества.
Но все равно, как гриц-ца, зачод.