Именно по этой причине я настаивал на том, что Первый закон (безопасность) должен состоять из двух позиций:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Позаботившись о безопасности, мы решили перейти ко Второму закону (служба). Естественно, следуя необходимости выполнять приказы людей, робот не должен забывать об их безопасности. Значит, Второй закон гласит:
2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
И наконец, нам требовался третий закон (осторожность). Робот – дорогая машина, значит, необходимо ее беречь. Но не в ущерб безопасности и службе человеку. Итак, Третий закон выглядит следующим образом:
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.
Разумеется, эти законы сформулированы в словах, что является в определенной степени несовершенством. В позитронном мозгу они выражены в сложных математических формулах (в которых я ничего не понимаю). Однако даже при этом они достаточно двусмысленны. Что считать вредом для человека? Должен ли робот подчиняться приказам, которые отдает ему ребенок, или сумасшедший, или человек с дурными намерениями? Должен ли он отдать свое дорогостоящее и полезное существование, чтобы предотвратить незначительный вред, который может быть причинен маловажному человеку? Что есть «незначительный» и что есть «маловажный»?
По мнению автора, эта двусмысленность не является недоработкой Трех законов. Если бы Три закона были идеальными и не вызывали никаких сомнений, разве могли бы мы писать наши рассказы? Именно в хитроумных закоулках сомнений и лежат сюжеты, которые становятся фундаментом – уж простите за каламбур – «Города роботов».
Я не старался облечь в слова Три закона в своем рассказе «Лжец», который появился в мае 1941 года. Однако в следующем рассказе под названием «Хоровод», появившемся в марте 1942 года, я уделил им самое пристальное внимание. В этом номере на седьмой строке страницы сто, один из героев говорит: «Теперь слушай. Начнем с Трех основных законов роботехники – трех правил, которые прочно закреплены в позитронном мозгу», и дальше я их цитирую. Насколько мне известно, это первое появление в печати слова «роботехника», которое я изобрел.
С тех пор в течение более чем сорока лет, когда я написал множество рассказов и романов о роботах, ни разу не возникло такой ситуации, чтобы мне пришлось модифицировать Три закона. Однако время шло, мои роботы становились более сложными и разносторонними, и я почувствовал, что можно внести кое-какие изменения. Таким образом, в «Роботах и Империи», романе, опубликованном в 1985 году, я заговорил о том, что в достаточной степени продвинутый робот может почувствовать себя обязанным предотвратить вред, который, возможно, будет причинен всему человечеству в целом, а не какому-то отдельному индивидууму. Я назвал его «Нулевым законом роботехники» и все еще продолжаю над ним работать.
Изобретение Трех законов роботехники – пожалуй, самый крупный вклад, внесенный мной в научную фантастику. Теперь их часто цитируют даже те, кто не имеет никакого отношения к данной области литературы, и уж точно можно сказать, что история роботехники не будет считаться полной без упоминания Трех законов. В 1985 году издательство «Джон Уайли и сыновья» опубликовало «Руководство по промышленной роботехнике» под редакцией Саймона Й. Нофа, и по просьбе главного редактора я написал вступление, касающееся Трех законов.
Сейчас авторы произведений научной фантастики произвели на свет целое море самых разнообразных идей, доступных остальным писателям. Именно по этой причине я никогда не возражал против того, чтобы мои коллеги, посвящающие свои произведения роботам, пользовались моими Тремя законами.
Однако я категорически выступал против прямого их цитирования другими авторами. Относитесь к Трем законам как к данности, но не повторяйте их – такова моя позиция. Понятия принадлежат всем, а слова – только мне!
