Будут ли созданы роботы-убийцы, или Зачем нужны законы для роботов?

Редакция Audio and Video уже писала о развитии систем искусственного интеллекта. Вы уже знаете, что роботы постепенно становятся умнее, а попытки создать искусственный разум близкий к человеческому начинают давать некоторые плоды. Пришло время познакомиться и с главными заповедями робототехники.

Давайте разберёмся для начала, зачем вообще нужны законы для роботов. А нужны они для того же, для чего существует Уголовный и Административный кодекс. Для защиты! Что такое в сущности робот? Железка, снабжённая некоторым количеством электроники и выполняющая определённые функции. Всё это она делает благодаря заложенным в программу алгоритмам. Что же будет, если программа даст сбой?

Это не так страшно, если говорить о безобидных роботах-пылесосах. Даже забавно может быть: ездил, убирал, а потом раз — и начал разбрасывать мусор. А представьте, если такой сбой произойдёт у гигантского, боевого робота, задача которого убивать? Вот для этого и нужны специальные правила.

История возникновения и этика

Рассказы Азимова иногда не содержали явного упоминания Законов. Это касается в основном первых историй. При создании сборника «Я робот» все тексты были дополнены заветными формулировками.

В 1920—1930-х годах множество фантастических рассказов и романов было написано о том, как робот восстал и уничтожил своего создателя. Не все фантасты писали по этому шаблону. Например, рассказ Отто Биндера «Я робот» вдохновил Айзека Азимова на создание аналогичной истории с «благородным роботом». В мае 1939 года он отдал рассказ главному редактору «Astounding» и по совместительству своему другу Джону Кэмпбеллу. Однако тот рукопись вернул, поскольку по его мнению рассказ был очень похож на историю «Хелен О’Лой» Лестера дель Рея.

Отношения друзей не пострадали и они продолжили встречаться за обсуждением новинок фантастики. Пока однажды, а точнее 23 декабря 1940 года, Кэмпбелл не сформулировал Три закона для роботов. Хотя он утверждал, что просто вычленил их из уже написанного Азимовым. А сам фантаст всегда уступал авторство Кэмпбеллу, до тех пор, пока ещё один друг Рэндал Гаррет не сформулировал создание Законов, как принадлежащее «симбиотическому товариществу».

Сами формулировки проявлялись очень постепенно. Рассказы Азимова иногда не содержали явного упоминания Законов. Это касается в основном первых историй. При создании сборника «Я робот» все тексты были дополнены заветными формулировками.

Три закона для роботов гласят:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Этика и приложения законов в не фантастики

Азимов не просто сформулировал эти правила, но и обосновал их с точки зрения морали и этики. Правда, сделал это с помощью главной героини одного из рассказов. Примерно так звучит объяснение:

  1. Люди стараются воздерживаться от причинения вреда другим людям (помним про Уголовный кодекс и христианские заповеди), кроме случаев острой необходимости (война или самооборона).
  2. Люди живут в обществе и подчиняются его законам, для чего выполняют указания учителей, врачей, начальников или других авторитетных людей.
  3. Каждому человеку присущ инстинкт самосохранения.

Примечательно, что применять эти законы можно не только для роботов. Они отлично действуют для инструментов и даже для государства. А Джеф Раскин пошёл ещё дальше и сформулировал законы для компьютерных интерфейсов:

  1. Компьютер не должен причинять вред информации пользователя или допустить своим бездействием, чтобы информации был причинён вред.
  2. Компьютер не должен тратить попусту время пользователя или вынуждать его выполнять действия больше, чем это необходимо.

Вариации, модификации, трактовка и лазейки в законах

Три закона для роботов звучат так, что формулировать их и трактовать можно по-разному. Сам Азимов неоднократно испытывал на прочность эти Законы в своих историях. Однажды он даже сформулировал новый, нулевой закон и сделал его приоритетным над главными:

  1. Робот не может причинить вред человечеству или допустить своим бездействием, чтобы человечеству был причинён вред.

Тут явно видно с одной стороны противоречие Первому закону, ведь если один человек захочет уничтожить весь мир – робот вправе не выполнить его приказ или даже нанести вред. А с другой стороны, по логике вещей, ничто не помешает роботу рассматривать людей, как существ неразумных, способных наносить вред самим себе, а значит, нужно ограничить их свободу. Тем самым вред наносится уже не человечеству, а просто каждому человеку.

Попытки модифицировать Первый закон, сократив его до формулировки «Робот не может причинить вред человеку», предпринимались для оптимизации. Первый закон имеет приоритет над остальными двумя, в итоге роботы могут сломаться, стремясь спасти человека. Усечённая версия первого закона приводит к возможности нанесения вреда бездействием.

Занятно и то, что нарушение всех трёх законов возможно, если нарушить только первый. Потому что остальные правила основаны на нём. Возможности и последствия такого нарушения также присутствуют в некоторых рассказах.

Три закона робототехники несовершенны и содержат некоторые лазейки. Робот может даже убить, не осознавая, к каким последствиям приведут его действия. Например, добавить яд, руководствуясь приказом другого человека. Ведь он не будет знать, что это яд.

Возможность применения Законов в будущем

Как бы просто три закона робототехники не звучали для людей, применимость их в современной индустрии практически невозможно, поскольку многое придётся дополнительно роботам «объяснять». В некоторых историях показано, что надёжно ограничить поведение робота лишь набором некоторых правил может и не получиться.

Необходимость дружественности искусственного интеллекта человеку очевидна всем. Поэтому проводятся специальные исследования. А в 2007 году начали работу над  «Уставом этических норм для роботов».

Не так давно стало известно о том, что компания Google приобрела DeepMind Technologies, которая известна специализацией по системам искусственного интеллекта. Одним из планов корпорации Google стало создание совета по этике, в обязанностях которого будет контроль над разработкой роботов и ИИ. Возможно, что эта корпорация станет первой в истории, принявшей Три закона для роботов.

На этом редакция Audio and Video не прощается. В следующем выпуске мы постараемся рассказать о боевых машинах. Тогда необходимость создания и соблюдения основных законов для роботов станет более очевидной. Ждём ваши комментарии и рассуждения на тему нарушения законов роботами.

Спасибо за внимание к нашему сайту, если Вам понравилась публикуемая информация, Вы можете помочь в развитии ресурса, поделившись статьей через социальные сети.
Комментарии «Будут ли созданы роботы-убийцы, или Зачем нужны законы для роботов?»
Войдите для того, чтобы оставить комментарии.

Вам будет интересно:

Аудио Наушники для рока 2015-09-12 в 15:15:46 44061 0
Видео Плазменные панели 2014-05-30 в 17:05:55 6535 0