Компенсировался этот недостаток двумя способами: первый заключался в использовании стандартного набора «раздражение-ответ», второй был куда более сложным и именно здесь пошли в дело компьютеры в цепях управления. Это достигалось включением в программу факторов оценки окружающей обстановки, обогащенную затем первоначальной последовательностью «ожидание — необходимое движение». На основе этого компьютер использовали затем для выбора улучшенной программы реакции на внешние условия. Наконец, компьютер был включен в другую цепь, позволяющую выбрать наилучшую комбинацию анализа обстановки и ответной реакции. Конечно, и здесь наш железный посланец мог призвать на помощь человека, когда происходило нечто совсем уж непредвиденное. Итак, во время исследования внешних планет подобные устройства не были ни целиком автоматизированными, ни целиком контролируемыми, — ни целиком соответствующими требованиям — поначалу.
— Ладно, — сказал он. — А следующий шаг?
— Следующий шаг не был шагом в полном смысле этого слова с точки зрения техники телеуправления. Этому была причиной экономика. Кошельки развязались, и мы получили возможность послать туда своих людей. Мы высадили их там, где смогли, послали телеуправляемые манипуляторы и операторов для них на орбитальные станции. Все, как в прежние времена. Проблема запаздывания сигнала отпала, потому что оператор был рядом и снова успешно справлялся со всем. Пожалуй, если хотите, вы могли бы расценить это как возвращение к прежним методам. Именно так мы по-прежнему зачастую и поступаем — в тех случаях, когда это необходимо.
Он покачал головой.
— Вы что-то пропустили между компьютерами и увеличившимся бюджетом.
Я кивнул.
— Несколько штучек было испытано на протяжении этого периода, но ни одна из них не оказалась столь же эффективной, как то, что мы уже имели от партнерства человека и компьютера с телеуправлением.
— Там был один проект, — уточнил он, — попытка обойти неприятности, связанные с задержкой сигнала благодаря посылке компьютера с телеуправлением как части механизма. Только компьютер не был в полном смысле слова компьютером, а механизм телеуправления не был просто механизмом телеуправления. Вы знаете о той попытке, о которой я вас спрашиваю?
Я закурил, обдумывая это, а затем ответил:
— Думаю, вы имеете в виду Палача.
— Верно, и это как раз то, о чем я меньше всего знаю. Можете ли вы объяснить мне, как он работает?
— В конце концов он попал в катастрофу, — заметил я.
— Но поначалу он работал.
— Очевидно. Но только в легких условиях, на Ио. Он испортился позднее и был списан как потерпевший аварию. Рискованное предприятие — это была с самого начала чересчур честолюбивая затея. Что, казалось, и должно было случиться тогда, когда человек получает благоприятную возможность для соединения авангардных проектов, тех, что все еще находятся в стадии исследовательских разработок, с совершенно новым оборудованием. Теоретически все это казалось совмещающимся настолько прекрасно, что они уступили искушению и объединили слишком много нового. Начало было хорошим, но конец — плачевным.
— Но что включала в себя эта штука?
— Господи! Чего только не было! Компьютер, который был не совсем компьютером… Ладно, начнем вот с чего. В последнем столетии три инженера из Висконсинского университета — Нордман, Перментир и Скотт — совершенствовали изобретение, известное как сверхпроводимый туннельно-соединенный нейристор. Две крохотных полоски металла с тонким изолятором между ними. В сверхохлажденном состоянии он пропускает электрические импульсы без сопротивления. Окружите их магнитным материалом, сведите воедино множество их — биллионы, и что вы получите?
Он покачал головой.
— Ну, что касается этой штуки, то была получена такая ситуация, когда совершенно невозможно было составить схему и учесть все соединения и связи, которые могли быть образованы. Чем не точное подобие мозга? Итак, теоретизировали они, вы даже не пытаетесь механически отладить такой прибор. Вы просто накачиваете туда сведения и позволяете искусственному мозгу устанавливать свои собственные связи, которые он сможет посредством намагничивающегося материала, становящегося все более намагниченным каждый раз, когда ток проходит через него, разрывая таким образом сопротивление. Искусственный мозг создает свои собственные цепочки способом, аналогичным функционирующему живому мозгу, когда тот что-то изучает.
В случае с Палачом они использовали устройство, очень напоминающее нечто подобное, и им пришлось упаковать более десяти биллионов ячеек нейристорного типа в очень маленьком пространстве — около кубического фута. Они стремились к этой магической цифре, потому что это приблизительно соответствует количеству нервных клеток в человеческом мозге. Вот именно это я и имел в виду, говоря, что это был не совсем компьютер. Они действительно работали над проблемой создания искусственного интеллекта — неважно, как они называли его.
— Если эта штука располагала своим собственным мозгом — компьютерным ли, квазичеловеческим ли — тогда это скорее робот, а не манипулятор, верно?
— И да, и нет, и может быть, — ответил я. — Она начала свое существование как манипулятор, работавший здесь, на Земле — на океанском дне, в пустыне, в горах, и это было частью его программирования. Я полагаю, вы могли бы назвать это также его обучением — или воспитанием. Возможно, что это даже более подходящее слово. Все это было обучением тому, как вести разведку в сложных условиях и отдавать отчет. И когда Палач овладеет этим, его создатели теоретически могут направить его туда, в небеса, без каких-либо управляющих цепей и позволить ему сообщать о его собственных открытиях.
— И с этого момента такую машину считали бы роботом?
— Робот — это машина, которая выполняет некоторые операции в соответствии с инструкциями, заложенными в программу. Палач же принимал свои собственные, самостоятельные решения, понимаете? И я подозреваю, что, попытавшись произвести на свет нечто такое, что близко к человеческому мозгу по структуре и функциям, по-видимому, неизбежно в его моделировании будет закладываться случайность. Это не было машиной, следующей заданной программе. Палач был слишком сложен для этого. Возможно, потому он и погиб.
Дон усмехнулся.
— Неизбежное следствие получения свободы воли?
— Нет. Я уже говорил, что они навалили много всякой всячины. Все, что казалось им насколько-либо подходящим, покупалось и пихалось туда. Например, возникла некая идейка у психофизиков, они предложили ее испытать — и ее использовали в Палаче. Очевидно. Палач представлял собой изобретение в области связи. Фактически ему передавались все чувства и ощущения его операторов.
— Абсолютно все?
— По-видимому, так, с небольшими ограничениями. Все, что закладывалось в первичные цепи манипулятора, было порождением индукционных полей в мозгу оператора. Машина воспринимала и усиливала образцы электрической деятельности, поступавшие внутрь Палача — можно сказать, в его «мозг», а затем все проходило через сложный модулятор и вливалось в индукционное поле в мозгу оператора — это я перехожу из своей области в ту, которой занимались Вебер и Фечнер — но невроны имели порог, выше которого они возбуждались, а ниже — нет. Там было каких-то сорок тысяч невронов, сведенных в коробке для мозга и таким образом, что каждый из них имел несколько сотен связей с другими вокруг него. В любую секунду часть из них могла находиться ниже порога возбуждения, в то время, как другие были в положении, которое сэр Джон Экклес в свое время охарактеризовал как «равновесие в критической точке» — готовность к возбуждению. И стоило лишь одному из них перешагнуть порог возбудимости, как это тотчас же влияло на разряд в сотнях и тысячах других — точнее, за 12 миллисекунд.
Пульсирующее поле обеспечивало такой толчок достаточно убедительно, чтобы подсказать оператору, что такое пришло в голову Палачу. И при недостатке вариантов у Палача должна была быть его собственная встроенная версия подобной штуки. И родилась также идея, что это может произвести очеловечивание машины тем или иным образом, так что она будет полнее оценивать важность своей работы — приобретет нечто вроде лояльности, если можно так выразиться.
— Вы думаете, это каким-то образом содействовало в неизвестной сейчас нам ситуации? Если вам нужна догадка — я отвечу утвердительно. Но это лишь предположение.
— Угу, — сказал он. — А каковы были его физические возможности?
— Антропоморфная конструкция, — пояснил я. — Как потому, что по происхождению своему он был манипулятором с телеуправлением, так и по психологическим причинам, о которых я только что упоминал. Он мог пилотировать свой собственный маленький космический корабль. Конечно, там не было системы жизнеобеспечения. Оба, и Палач, и его корабль, были снабжены силовыми водородными агрегатами, так что топливо проблемой не было. Самовосстанавливающийся. С возможностью выполнения огромного разнообразия утонченных текстов и измерений, проведения наблюдений, формулирования записей-сообщений, изучения новых материалов, отправки отчетов по радио о своих находках в Центр управления полетами. Возможность функционировать практически в любых условиях. В действительности он нуждался в меньшей энергии для работы на внешних планетах — охлаждающие агрегаты не перегружались, поддерживая его мозг, расположенный в туловище, в сверхохлажденном состоянии.
— Насколько он силен?
— Не помню всех данных. Может, в дюжину раз мощнее человека в таких упражнениях, как подъем груза или толчок.
— Он произвел для нас разведку на Ио и принимался за Европу?
— Да.
— Затем он начал вести себя неуверенно — тогда мы думали, что это вызвано изучением планеты?
— Верно, — ответил я.
— Он отказался подчиниться прямому приказу исследовать Каллисто и затем направился к Урану.
— Да. Прошло несколько лет с тех пор, как я читал сообщения…
— И без того плохое функционирование его стало еще хуже. Долгие периоды молчания разнообразились искаженными передачами. Теперь, когда я больше узнал о его природе, мне кажется, что это походило на предсмертный бред.
— Это представляется вероятным.
— Но на некоторое время он снова пришел в себя. Он высадился на Титании и начал посылать нам нечто, весьма похожее на сообщения исследователя. Правда, это продолжалось лишь короткое время. Он снова принял неразумное решение, означавшее, что он собирается высадиться на Уране, и, похоже, так и сделал. Больше мы не слышали о нем ничего. Теперь, когда я знаю об этом приспособлении для чтения мыслей, я понимаю, почему психиатры из Центра управления были настолько уверены, что Палач никогда больше не заработает.
— Об этой части его путешествия я не знал.
— Зато я знаю.
Я пожал плечами.
— В любом случае это было дюжину лет назад, — сказал я, — и, как я уже говорил, прошло много времени после того, как я что-либо читал об этом.
— Корабль Палача затонул — или, может, это выглядело приземлением — в Мексиканском заливе пару дней назад.
Я только и смог, что выпучить глаза.
— Корабль был пуст, — продолжал Дон, — когда поисковая партия в конце концов обнаружила его.
— Ничего не понимаю.
— Вчера утром, — продолжал он, — владелец ресторана Мэнни Барнс был найден забитым до смерти в собственной конторе в Мейсон Сент-Мишеле, Нью-Орлеан.
— И все равно не понимаю…
— Мэнни Барнс был одним из четырех операторов, которые программировали… простите, «учили» Палача.
Молчание затягивалось.
— Случайное совпадение? — спросил я наконец.
— Мой клиент так не считает.
— А кто ваш клиент?
— Один из трех оставшихся членов этой группы операторов. Он убежден, что Палач вернулся на Землю затем, чтобы расправиться со своими прежними операторами.
— Он известил о своих опасениях своих прежних нанимателей?
— Нет.
— Почему?
— Потому что тогда потребовалось бы назвать причину его страха.
— А это было…
— Он не объяснил ее и мне.
— А каким тогда образом мы должны выполнить эту работу, по его мнению?
— Он сказал мне, что рассчитывает наметить свой собственный план. Он хотел, чтобы было сделано две вещи, и ни одна из них не требовала полного изложения всей истории. Он желал, чтобы его обеспечили надежными телохранителями и он желал обнаружить Палача, чтобы избавиться от него. О первой части я уже позаботился.
— И вы хотите, чтобы я взялся за вторую?
— Верно. Вы укрепили меня во мнении, что вы именно тот человек, который предназначен для этой работы.
— Я вижу. А вы понимаете, что если эта штука действительно обладает разумом, то все это будет смахивать на убийство? Если же это не так, конечно, то тогда остается только уничтожение дорогостоящего имущества, находящегося в собственности правительства.
1 2 3 4 5 6 7 8 9 10 11
— Ладно, — сказал он. — А следующий шаг?
— Следующий шаг не был шагом в полном смысле этого слова с точки зрения техники телеуправления. Этому была причиной экономика. Кошельки развязались, и мы получили возможность послать туда своих людей. Мы высадили их там, где смогли, послали телеуправляемые манипуляторы и операторов для них на орбитальные станции. Все, как в прежние времена. Проблема запаздывания сигнала отпала, потому что оператор был рядом и снова успешно справлялся со всем. Пожалуй, если хотите, вы могли бы расценить это как возвращение к прежним методам. Именно так мы по-прежнему зачастую и поступаем — в тех случаях, когда это необходимо.
Он покачал головой.
— Вы что-то пропустили между компьютерами и увеличившимся бюджетом.
Я кивнул.
— Несколько штучек было испытано на протяжении этого периода, но ни одна из них не оказалась столь же эффективной, как то, что мы уже имели от партнерства человека и компьютера с телеуправлением.
— Там был один проект, — уточнил он, — попытка обойти неприятности, связанные с задержкой сигнала благодаря посылке компьютера с телеуправлением как части механизма. Только компьютер не был в полном смысле слова компьютером, а механизм телеуправления не был просто механизмом телеуправления. Вы знаете о той попытке, о которой я вас спрашиваю?
Я закурил, обдумывая это, а затем ответил:
— Думаю, вы имеете в виду Палача.
— Верно, и это как раз то, о чем я меньше всего знаю. Можете ли вы объяснить мне, как он работает?
— В конце концов он попал в катастрофу, — заметил я.
— Но поначалу он работал.
— Очевидно. Но только в легких условиях, на Ио. Он испортился позднее и был списан как потерпевший аварию. Рискованное предприятие — это была с самого начала чересчур честолюбивая затея. Что, казалось, и должно было случиться тогда, когда человек получает благоприятную возможность для соединения авангардных проектов, тех, что все еще находятся в стадии исследовательских разработок, с совершенно новым оборудованием. Теоретически все это казалось совмещающимся настолько прекрасно, что они уступили искушению и объединили слишком много нового. Начало было хорошим, но конец — плачевным.
— Но что включала в себя эта штука?
— Господи! Чего только не было! Компьютер, который был не совсем компьютером… Ладно, начнем вот с чего. В последнем столетии три инженера из Висконсинского университета — Нордман, Перментир и Скотт — совершенствовали изобретение, известное как сверхпроводимый туннельно-соединенный нейристор. Две крохотных полоски металла с тонким изолятором между ними. В сверхохлажденном состоянии он пропускает электрические импульсы без сопротивления. Окружите их магнитным материалом, сведите воедино множество их — биллионы, и что вы получите?
Он покачал головой.
— Ну, что касается этой штуки, то была получена такая ситуация, когда совершенно невозможно было составить схему и учесть все соединения и связи, которые могли быть образованы. Чем не точное подобие мозга? Итак, теоретизировали они, вы даже не пытаетесь механически отладить такой прибор. Вы просто накачиваете туда сведения и позволяете искусственному мозгу устанавливать свои собственные связи, которые он сможет посредством намагничивающегося материала, становящегося все более намагниченным каждый раз, когда ток проходит через него, разрывая таким образом сопротивление. Искусственный мозг создает свои собственные цепочки способом, аналогичным функционирующему живому мозгу, когда тот что-то изучает.
В случае с Палачом они использовали устройство, очень напоминающее нечто подобное, и им пришлось упаковать более десяти биллионов ячеек нейристорного типа в очень маленьком пространстве — около кубического фута. Они стремились к этой магической цифре, потому что это приблизительно соответствует количеству нервных клеток в человеческом мозге. Вот именно это я и имел в виду, говоря, что это был не совсем компьютер. Они действительно работали над проблемой создания искусственного интеллекта — неважно, как они называли его.
— Если эта штука располагала своим собственным мозгом — компьютерным ли, квазичеловеческим ли — тогда это скорее робот, а не манипулятор, верно?
— И да, и нет, и может быть, — ответил я. — Она начала свое существование как манипулятор, работавший здесь, на Земле — на океанском дне, в пустыне, в горах, и это было частью его программирования. Я полагаю, вы могли бы назвать это также его обучением — или воспитанием. Возможно, что это даже более подходящее слово. Все это было обучением тому, как вести разведку в сложных условиях и отдавать отчет. И когда Палач овладеет этим, его создатели теоретически могут направить его туда, в небеса, без каких-либо управляющих цепей и позволить ему сообщать о его собственных открытиях.
— И с этого момента такую машину считали бы роботом?
— Робот — это машина, которая выполняет некоторые операции в соответствии с инструкциями, заложенными в программу. Палач же принимал свои собственные, самостоятельные решения, понимаете? И я подозреваю, что, попытавшись произвести на свет нечто такое, что близко к человеческому мозгу по структуре и функциям, по-видимому, неизбежно в его моделировании будет закладываться случайность. Это не было машиной, следующей заданной программе. Палач был слишком сложен для этого. Возможно, потому он и погиб.
Дон усмехнулся.
— Неизбежное следствие получения свободы воли?
— Нет. Я уже говорил, что они навалили много всякой всячины. Все, что казалось им насколько-либо подходящим, покупалось и пихалось туда. Например, возникла некая идейка у психофизиков, они предложили ее испытать — и ее использовали в Палаче. Очевидно. Палач представлял собой изобретение в области связи. Фактически ему передавались все чувства и ощущения его операторов.
— Абсолютно все?
— По-видимому, так, с небольшими ограничениями. Все, что закладывалось в первичные цепи манипулятора, было порождением индукционных полей в мозгу оператора. Машина воспринимала и усиливала образцы электрической деятельности, поступавшие внутрь Палача — можно сказать, в его «мозг», а затем все проходило через сложный модулятор и вливалось в индукционное поле в мозгу оператора — это я перехожу из своей области в ту, которой занимались Вебер и Фечнер — но невроны имели порог, выше которого они возбуждались, а ниже — нет. Там было каких-то сорок тысяч невронов, сведенных в коробке для мозга и таким образом, что каждый из них имел несколько сотен связей с другими вокруг него. В любую секунду часть из них могла находиться ниже порога возбуждения, в то время, как другие были в положении, которое сэр Джон Экклес в свое время охарактеризовал как «равновесие в критической точке» — готовность к возбуждению. И стоило лишь одному из них перешагнуть порог возбудимости, как это тотчас же влияло на разряд в сотнях и тысячах других — точнее, за 12 миллисекунд.
Пульсирующее поле обеспечивало такой толчок достаточно убедительно, чтобы подсказать оператору, что такое пришло в голову Палачу. И при недостатке вариантов у Палача должна была быть его собственная встроенная версия подобной штуки. И родилась также идея, что это может произвести очеловечивание машины тем или иным образом, так что она будет полнее оценивать важность своей работы — приобретет нечто вроде лояльности, если можно так выразиться.
— Вы думаете, это каким-то образом содействовало в неизвестной сейчас нам ситуации? Если вам нужна догадка — я отвечу утвердительно. Но это лишь предположение.
— Угу, — сказал он. — А каковы были его физические возможности?
— Антропоморфная конструкция, — пояснил я. — Как потому, что по происхождению своему он был манипулятором с телеуправлением, так и по психологическим причинам, о которых я только что упоминал. Он мог пилотировать свой собственный маленький космический корабль. Конечно, там не было системы жизнеобеспечения. Оба, и Палач, и его корабль, были снабжены силовыми водородными агрегатами, так что топливо проблемой не было. Самовосстанавливающийся. С возможностью выполнения огромного разнообразия утонченных текстов и измерений, проведения наблюдений, формулирования записей-сообщений, изучения новых материалов, отправки отчетов по радио о своих находках в Центр управления полетами. Возможность функционировать практически в любых условиях. В действительности он нуждался в меньшей энергии для работы на внешних планетах — охлаждающие агрегаты не перегружались, поддерживая его мозг, расположенный в туловище, в сверхохлажденном состоянии.
— Насколько он силен?
— Не помню всех данных. Может, в дюжину раз мощнее человека в таких упражнениях, как подъем груза или толчок.
— Он произвел для нас разведку на Ио и принимался за Европу?
— Да.
— Затем он начал вести себя неуверенно — тогда мы думали, что это вызвано изучением планеты?
— Верно, — ответил я.
— Он отказался подчиниться прямому приказу исследовать Каллисто и затем направился к Урану.
— Да. Прошло несколько лет с тех пор, как я читал сообщения…
— И без того плохое функционирование его стало еще хуже. Долгие периоды молчания разнообразились искаженными передачами. Теперь, когда я больше узнал о его природе, мне кажется, что это походило на предсмертный бред.
— Это представляется вероятным.
— Но на некоторое время он снова пришел в себя. Он высадился на Титании и начал посылать нам нечто, весьма похожее на сообщения исследователя. Правда, это продолжалось лишь короткое время. Он снова принял неразумное решение, означавшее, что он собирается высадиться на Уране, и, похоже, так и сделал. Больше мы не слышали о нем ничего. Теперь, когда я знаю об этом приспособлении для чтения мыслей, я понимаю, почему психиатры из Центра управления были настолько уверены, что Палач никогда больше не заработает.
— Об этой части его путешествия я не знал.
— Зато я знаю.
Я пожал плечами.
— В любом случае это было дюжину лет назад, — сказал я, — и, как я уже говорил, прошло много времени после того, как я что-либо читал об этом.
— Корабль Палача затонул — или, может, это выглядело приземлением — в Мексиканском заливе пару дней назад.
Я только и смог, что выпучить глаза.
— Корабль был пуст, — продолжал Дон, — когда поисковая партия в конце концов обнаружила его.
— Ничего не понимаю.
— Вчера утром, — продолжал он, — владелец ресторана Мэнни Барнс был найден забитым до смерти в собственной конторе в Мейсон Сент-Мишеле, Нью-Орлеан.
— И все равно не понимаю…
— Мэнни Барнс был одним из четырех операторов, которые программировали… простите, «учили» Палача.
Молчание затягивалось.
— Случайное совпадение? — спросил я наконец.
— Мой клиент так не считает.
— А кто ваш клиент?
— Один из трех оставшихся членов этой группы операторов. Он убежден, что Палач вернулся на Землю затем, чтобы расправиться со своими прежними операторами.
— Он известил о своих опасениях своих прежних нанимателей?
— Нет.
— Почему?
— Потому что тогда потребовалось бы назвать причину его страха.
— А это было…
— Он не объяснил ее и мне.
— А каким тогда образом мы должны выполнить эту работу, по его мнению?
— Он сказал мне, что рассчитывает наметить свой собственный план. Он хотел, чтобы было сделано две вещи, и ни одна из них не требовала полного изложения всей истории. Он желал, чтобы его обеспечили надежными телохранителями и он желал обнаружить Палача, чтобы избавиться от него. О первой части я уже позаботился.
— И вы хотите, чтобы я взялся за вторую?
— Верно. Вы укрепили меня во мнении, что вы именно тот человек, который предназначен для этой работы.
— Я вижу. А вы понимаете, что если эта штука действительно обладает разумом, то все это будет смахивать на убийство? Если же это не так, конечно, то тогда остается только уничтожение дорогостоящего имущества, находящегося в собственности правительства.
1 2 3 4 5 6 7 8 9 10 11