У нас бытует выражение «работать, как робот», но насколько то, чем роботы обычно заняты, действительно необходимо? Толпы из тысяч роботов целыми месяцами возводят небоскребы, в которых никто никогда не будет жить. Эти дворцы годами стоят пустые, никому не нужные. А потом приходят другие толпы роботов, разбирают их и строят новые, еще более замысловатые дворцы, которые тоже никому не понадобятся. Роботы постоянно чем-то заняты, но их труд пропадает впустую – они делают ненужные вещи!
Каждый робот общего профиля сходит с конвейера со встроенными умениями и навыками любой домашней работы. Он умеет водить аэрокар, готовить пищу, подбирать своему господину одежду и украшения, следить за чистотой в доме, делать всевозможные покупки и вести счета хозяина, и тому подобное. Однако вместо того, чтобы предоставить делать все это одному и тому же роботу, мы для каждой из этих задач держим отдельного робота, а то и нескольких. И двадцать роботов заняты тем, что вполне под силу одному-единственному. Они выполняют самые незначительные задания, и, пока один занят, остальные вынуждены заниматься чем попало или скрываться в нишах и бездействовать, чтобы не мешать друг другу. А если роботов слишком много, нам приходится заводить специального робота-надсмотрщика, чтобы управлять всей этой толпой бездельников.
Поселенцы каким-то образом обходятся вообще без роботов, без личных слуг. Вместо этого они используют сложные машины, хотя иногда это доставляет им массу затруднений. Я считаю, что, совершенно отказываясь от роботов, они обрекают себя на целую кучу ненужной работы. Тем не менее их общество растет и развивается. На сегодняшний день, леди и джентльмены, на одного жителя Аида приходится в среднем девяносто восемь целых и четыре десятых робота. Включая всех личных роботов, промышленных и роботов общественных служб. За пределами города этот показатель гораздо выше. Это просто нелепо, леди и джентльмены, когда одного человека обслуживает целая сотня роботов! Это все равно, как если бы у каждого из нас было по сотне домов и сотне аэрокаров!
Я говорю вам, друзья мои, мы вплотную приблизились к тому, чтобы попасть в полную зависимость от своих слуг-роботов, а они все сильнее и сильнее деградируют от такого обращения. Полагаясь на роботов во всем, кроме творчества, мы обречены. И даже от творчества мы уже почти готовы отказаться! Тем не менее роботы тоже обречены, если по-прежнему будут полагаться только на наши приказания, на нас как на единственную причину их существования. Несмотря на то, что мы как народ угасаем, вырождаемся.
И снова в зале повисла мертвая тишина. Настало время. Она должна это сказать, здесь и сейчас!
– И чтобы остановить неуклонное загнивание, застой нашего общества, мы должны совершенно изменить взаимоотношения с роботами! Мы должны снова взяться за те дела, которые можем выполнять, замарать свои руки, снова связать себя с реальным миром, снова научиться что-то делать! Только так можно избежать духовного и физического опустошения, деградации.
И в то же время мы должны подумать, как лучше использовать свои превосходные мыслящие машины. Наш мир в опасности, планета на грани катастрофы. Нужно сделать очень многое, и работа найдется для всех желающих. Настоящая работа для роботов, которые сейчас служат подставками для зубных щеток. Если мы хотим использовать роботов на полную мощность, нужно позволить им, даже заставить их во всей полноте проявить свои способности. Мы должны превратить их из рабов в сотрудников. И тогда они разделят с нами тяжесть трудов, не отнимая того, что делает нас людьми.
И для этого мы должны изменить Три Закона.
Она сказала это. Зал замер, потом взорвался выкриками протеста, злобы и страха. Эмоции вышли из-под контроля! Фреда вцепилась в край кафедры и приготовилась заговорить громко и уверенно.
– Три Закона прекрасно нам послужили, – начала Фреда, понимая, что надо сказать что-нибудь приятное для слушателей. – С ними мы смогли достичь грандиозных свершений. Они – величайшее достижение цивилизации колонистов. Но не все достижения годятся во все времена, на все случаи жизни.
Снова возмущенный рев, крики, свист.
– Пришло время создать лучших роботов.
И зал затих. Ага! Они все внимание! В конце концов, даже девиз Железноголовых – «Больше лучших роботов!». И Фреда продолжила:
– Когда-то, давным-давно, в незапамятные времена, когда еще не было в помине никаких роботов, люди для скрепления самых разных конструкций пользовались двумя видами приспособлений – гвоздями и винтами. Для того чтобы забивать гвозди, применяли инструмент под названием молоток, а винты завинчивали инструментом, который назывался «отвертка». И не могло быть даже речи, чтобы самый лучший молоток использовали вместо самой плохонькой отвертки. Сегодня, когда мы не применяем ни гвоздей, ни винтов, оба эти инструмента никому не нужны. И самый распрекрасный молоток нам ни на что не сгодился бы. Мир меняется. Точно так же и с роботами. Сейчас нам нужны новые, лучшие роботы, с новыми, лучшими Законами.
Погодите возражать – те, кто хотел повторить то, что обычно говорят наши роботы. Что Три Закона вечны и неизменны, потому что заложены в саму основу позитронного мозга. Все мы, конечно, знаем, что Три Закона неразрывно связаны с позитронным мозгом. Мы убедились в этом за тысячи лет, тысячи попыток усовершенствовать позитронный мозг. И любой современный позитронный мозг в своей основе почти такой же, как самые первые, примитивные образцы, созданные на Земле многие тысячелетия назад. И всякое усовершенствование только накладывалось на прежнюю основу, а Три Закона по-прежнему оставались вплетенными в каждую цепь, каждую извилину позитронного мозга. Ни одно усовершенствование не задевало Трех Законов. Невозможно создать позитронный мозг без Трех Законов, как невозможен человеческий мозг без нейронов!
Все это так. Но моему коллеге Губеру Эншоу удалось изобрести нечто совершенно иное, новое, никак не связанное с прошлым, это чистый лист, на котором можно начертать любые законы, какие нам нужны. Губер Эншоу изобрел гравитонный мозг. Невероятные возможности, гибкость, чувствительность гравитонного мозга – это наш шанс начать все с начала!
Йомен Терах, еще один мой сотрудник, создал большую часть основных программ для гравитонного мозга, в том числе и программу введения Новых Законов в мозг новых роботов. Роботов с гравитонным мозгом. И эти роботы, леди и джентльмены, вскоре начнут работать над проектом преобразования климата «Лимб»!
Внезапно слушатели осознали, что слова Фреды Ливинг – не просто умозрительные рассуждения. Она рассказывала о реальных, уже существующих роботах, а не об отвлеченных научных изысканиях. В зале снова поднялся шум – кто-то бранился, кто-то недоумевал.
– Конечно, эти новые роботы – экспериментальные, – снова заговорила Фреда, стараясь привлечь внимание аудитории, пока взволнованные слушатели не стали совершенно неуправляемыми. – Они будут заняты исключительно на острове Чистилище. Их задача – восстановить и заново запустить климатическую станцию Лимба. Специальные приспособления – так называемые «ограничители диапазона» – не позволят новым роботам действовать за пределами острова. Если такой робот окажется вне острова, он просто отключится. Они будут работать под руководством специальной команды экспертов-поселенцев, вместе с добровольцами-колонистами, которые уже набраны.
Фреда понимала, что не стоит углубляться в подробности того, почему это стало возможным. Когда Тоня Велтон узнала о роботах с Новыми Законами – хотя сам черт ведает, как ей удалось про них разнюхать, она настояла на том, чтобы все новые роботы, созданные на Инферно, были оснащены гравитонным мозгом. Это было условием помощи в преобразовании климата со стороны поселенцев. Правитель Грег испробовал немало способов, чтобы разубедить поселенцев на этот счет, но все впустую. И теперь это не имеет уже никакого значения.
Фреда продолжала:
– Задача, которая стоит перед этой объединенной командой поселенцев, колонистов и роботов, грандиозна: ни больше ни меньше, чем спасение нашей планеты от экологической катастрофы. Им предстоит восстановить климатическую станцию на Чистилище. В давние времена роботы трудились бок о бок с людьми как товарищи, а не как рабы. И Новые Законы позволят возродить эти отношения.
А теперь позвольте рассказать, в чем же состоят эти Новые Законы.
Новый Первый Закон роботехники гласит: «Робот не может причинить человеку вред». Как видите, мы убрали пункт о бездействии. Согласно этому закону людям не придется защищаться от роботов. Однако на то, что роботы будут защищать людей, рассчитывать не стоит. Людям, как в прежние времена, придется полагаться только на собственную инициативу и уверенность в себе. Им придется самим о себе заботиться. И, что очень важно, этот Закон ставит роботов в относительно более высокое положение по сравнению с людьми, чем раньше.
Новый Второй Закон роботехники таков: «Робот должен сотрудничать с людьми, если это сотрудничество не противоречит Первому Закону». Роботы с Новыми Законами будут сотрудничать, а не подчиняться. Они больше не будут игрушками капризных людей. Вместо беспрекословного подчинения приказам новые роботы сперва осмыслят их и решат, стоит ли повиноваться. Заметьте однако, что сотрудничество по-прежнему осталось обязательным. Роботы должны стать партнерами людей, а не рабами. Люди должны нести ответственность за свои действия и не ждать, что будет исполнен любой, самый бессмысленный приказ. И не придется рассчитывать, что роботы согласятся разрушать самих себя или других роботов ради потехи какого-нибудь человека.
Новый Третий Закон роботехники: «Робот должен заботиться о собственной безопасности, пока это не противоречит Первому Закону». Заметьте, что Второй Закон здесь больше не упоминается, он теперь не доминирует над Третьим. Сохранность роботов так же важна, как и их полезность. И этим тоже повышается социальное положение роботов по отношению к людям по сравнению с тем, что было раньше. И одновременно люди освобождаются от своих рабов, перестают быть рабовладельцами, неспособными существовать без рабов.
И, наконец, Четвертый Закон роботехники, о котором мы только что говорили: «Робот может делать что пожелает, кроме тех действий, которые противоречат Первому, Второму или Третьему Законам». Этот Закон открывает двери свободе творчества для роботов. С таким совершенным, гибким мозгом, как гравитонный, роботы смогут приспособиться к окружающему миру, найдут пути для воплощения собственных мыслей и желаний, всех своих возможностей. Обратите внимание, что они «могут», а не «должны» делать что пожелают. Четвертый Закон дает право на свободу выбора. Свободу действий нельзя навязать в приказном порядке.
Фреда окинула взглядом зал. Вот и все. Она сказала все, что собиралась сказать, и сумела удержать толпу слушателей от…
– Не-е-ет!
Фреда повернулась туда, откуда раздался крик, и тут ее сердце замерло.
«Нет!» – раздалось снова. Голос – низкий, глубокий, звенящий от гнева – донесся откуда-то из задних рядов.
– Это неправда! – кричал он.
Из задних рядов? Точно. Один из Железноголовых. Их командир, Симкор Беддл. Толстый мужчина с побледневшим от гнева лицом.
– Посмотрите только на нее! Посмотрите, кто стоит за ней: наш Правитель-изменник и королева поселенцев Тоня Велтон! Они стоят за всем этим, ребята! Не может быть никаких роботов без Трех Законов! Мы целый вечер слушали, как Ливинг поливает роботов грязью. И как же она может желать им добра? Да она просто хочет подсобить своим дружкам-поселенцам сжить роботов со свету! Можем ли мы это допустить?!
Многоголосый хор тут же откликнулся:
– Нет!
– Что? Я вас не слышу! – требовал Беддл.
– Не-е-ет!!! – На этот раз зал буквально взревел. Казалось, крик потряс основы здания, и оно вздрогнуло.
– Еще раз! – не унимался толстяк.
– Не-е-ет!!! – взревели в ответ Железноголовые, потом еще и еще: – Нет! Нет! Нет!!! – Они встали с кресел и двинулись к центральному проходу.
– Нет! Нет! Нет!!!
Полицейские начали подбираться к ним – правда, несколько неуверенно. И Железноголовые не преминули воспользоваться этой заминкой. Да, они действительно поломали головы над этим планом. Не оставалось никаких сомнений относительно того, что Железноголовые заранее продумали, что и за чем будут делать. И весь вечер просто выжидали удобного случая.
Фреда смотрела со сцены, как они выстраиваются в проходе между рядами. «Они требуют самого простого и невозможного! – думала она. – Хотят, чтобы мир застыл, перестал меняться, навсегда остался прежним». Как много было в одном-единственном слове! Его значение с каждой минутой становилось все яснее и понятнее…
– Нет! Нет! Нет!!!
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57