Три закона робототехники [Записки старьевщика]

Перебирал на днях свою библиотеку и наткнулся на интересную книгу. Оказалось, что это стенограмма выступления известного инженера-футуролога Григория Кельвина о законах робототехники и о последствиях их необдуманной модификации.

Стенограмма Загадки прошлого, загадки будущего. Часто люди не придают значения мелочам, им хочется чего-то большего. И стремятся, бегут куда-то, в погоне за счастьем, не понимая, что оно совсем рядом. Всего лишь надо на минутку остановиться и подумать. Завтра мы отмечаем праздник – сто лет исполнилось последнему человеку, родившемуся в нероботизированном обществе. Сегодня мы и представить себе не можем такой мир. Роботы повсюду с нами, готовые помочь в трудную минуту. Но когда-то всё было иначе: люди жили среди других людей, а разумные машины были лишь мечтаниями определенной касты людей, именующей себя фантастами. Был среди них тогда один человек, звали его Айзек Азимов. Айзек был обыкновенным парнем. Как и все, он ходил в школу, влюблялся, учился, находил новых друзей и терял старых. Лишь в одном он отличался от них – Айзек имел талант великого писателя и замечательного ученого. В ниве писательства Айзек Азимов не ограничивал себя каким-то одним жанром, но всегда старался популяризовать науку. Однако сейчас мы поговорим не обо всей деятельности писателя, а лишь об одной вехе его жизни. Роботы и законы, которым они подчиняются. Все вы прекрасно знаете законы робототехники, но я всё же возьму на себя смелость их перечислить.Первый закон робототехники: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.Второй закон робототехники: робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.Третий закон робототехники: робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму Законам. Сегодня многие могут возразить, мол, эти законы неверные, роботы им не подчиняются. На самом же деле они будут одновременно и правы и не правы. Многие роботы действительно основаны на законах робототехники, но не совсем, так как это принято понимать. Дабы разрушить распространённые заблуждения, давайте поговорим именно об этой теме.Айзек Азимов был одним из первых писателей, кто подошел к осмыслению возможности появления разумных машин не с разрушительной стороны. Свои произведения посвященные робототехнике Азимов начал писать в сороковые года двадцатого века, когда в научной фантастике существовал явный тренд в изображении роботов как рукотворных созданий уничтожающих своего хозяина. Айзек отказался от этого — вместо роботов-убийц писатель показал, что роботы могут играть созидательную роль в жизни человека. Всего лишь необходимо заложить в устройство разумной машины правила, не позволяющие роботу навредить человеку.Айзек элегантно объяснил, как заложить эти законы в робота. Роботы создаются по образу и подобию человека и так же, как люди они наделены сознанием. Хранилищем сознания является позитронный мозг. Как раз таки в этот мозг писатель и заложил законы робототехники. Законы робототехники являются не вербально записанными предложениями в мозгу робота, а сложными математическими формулами, на которых базируется всё сознание робота. Правила заложенные Азимовым являются для роботов своеобразным аналогом инстинктов людей: роботы чувствуют непреодолимую потребность в исполнении этих правил и получают удовлетворение, когда их исполняют.Здесь мы наталкиваемся на распространённое заблуждение. Три закона робототехники являются довольно-таки расплывчатыми правилами, поэтому как многие считают, они могут быть неверно истолкованы роботами. И они правы. Задать математическую формулу выполняющую функцию закона робототехники непомерно сложно, а так как позитронный мозг, описанный в произведениях Азимова, в реальном мире не существует, то и вовсе невозможно. Поэтому на первых порах робототехники люди отказались от концепции законов. Впрочем, по мере того как усложнялись роботы всё жестче стоял вопрос об их ограничении, появилась потребность в создании этических норм для роботов. Человечество вернулось к законам робототехники и начало исследования в области их практического применения. Конечный результат несколько отличался от того, что изображал Азимов. Однако сегодня мы не на слете юных инженеров-робототехников, поэтому останавливаться на этом я не буду. Скажу только, что законы в своей формулировке не претерпели сильных изменений.Перейдем к главному, к самим законам робототехники. Законы робототехники являются неотъемлемой частью любой разумной машины. Несмотря на то что, по сути, законы являются этической надстройкой робота, именно они позволяют роботу осознавать себя в нашем мире. Как и любой человек ассоциирует себя с человеческим обществом благодаря принципам порядочности и законопослушности, так и робот встраивается в это общество благодаря законам робототехники. Как писал сам Айзек:

Отрывок из выступления Григория КельвинаЯнварь 2129 года

Для справок Известный писатель-фантаст, посвятивший свою жизнь популяризации науки. Написал за свою жизнь около пятисот книг, многократный лауреат премий Хьюго и Небьюла. Внес в мировую культуру понятия робототехники(robotics) и психоистории (psychohistory, науки о поведении больших групп людей). Считается одним из лучших мастеров научной фантастики. Родился фантаст в городе Петровичи Смоленской губернии (Россия, ныне Белоруссия) 2 января 1920 века. Родителями мальчика были Анна Рахиль Берман-Азимова и Иегуда Азимов, мельники по профессии. Назван Исааком в честь дедушке. В возрасте 3 лет Айзек вместе с родителями уехал из России в Америку. В Америке родители мальчика поселились в Бруклине, где со временем открыли кондитерский магазин. В возрасте 6 лет Айзек поступил в школу. После окончания школы поступил в Seth Low Junior College, но через год этот колледж закрылся. В 16 лет Айзек поступил на химический факультет Колумбийского университета в Нью-Йорке, где в 1939 году получил степень бакалавра, а в 1941 степень магистра. В 1942 году ушел из университета работать по профессии (химиком) и встретил свою будущую жену, Гертруду Блюгерман. В 1945 году отслужил в армии, а после вернулся в университет и продолжил образование. В 1970 году Азимов расстался со свой женой и практически сразу же сошёлся с Джэнет Опал Джеппсон, с которой познакомился на банкете 1 мая 1959 года. Детьми Айзека были сын Дэйвид, родившийся в 1951 году, и дочь, Робин Джоэн, родившуюся в 1955 году.Писать Азимов начал в 11 лет. Свой первый рассказ «В плену у Весты» Азимов опубликовал 10 января 1939 году. В 1941 году опубликовал рассказ «Приход ночи. Рассказ получил огромную известность, более двадцати раз попадал в различные антологии и дважды был экранизирован. В 1939 году Азимов начал писать работы о робототехнике, первыми были рассказы «Робби» и «Лжец». После опубликовал сборник рассказов «Я, Робот», который принес писателю всемирную известность. В 1942 году Азимов начал серию романов «Основание». Изначально сборник «Я, робот» и романы «Основание » не имели никакой связи, но в 1980 году Азимов решил их объединить, связав их в единую вселенную.Тремя любимыми рассказами Азимова были «Последний вопрос», «Двухсотлетний человек» и «Уродливый мальчуган». Любимым романом были «Сами боги». Это страх перед разумными созданными людьми существами. В случае Азимова иррациональный страх перед роботами. Иное ПсихоисторияКолонизация космосаИные цивилизации космосаВедьмак: исторические параллели