Мы знаем все.
Он резко подался вперед:
– Что вы знаете?!
Нервы мои были напряжены, я ждал опасных движений и ударил его прежде, чем подумал. Он опрокинулся в угол, пошевелился и затих. Я наклонился над ним. На губах Пахаря выступала кровь, но глаза, полные слез, были открыты. Он смотрел куда-то вверх, сквозь меня, и в этом отрешенном, пустом взгляде читалось полное равнодушие к собственной судьбе. Такой взгляд бывает у пилотов, когда их достают из обломков ракеты.
– Боже мой! – застонал он вдруг, мучительно морщась. – Вот он, этот мир!.. Вот его словарь: диверсия, покушение, убийство!.. Если б я знал!.. – он привалился плечом к стене и поднял на меня глаза. – Оставьте эту дверь, комиссар. Мы все равно отсюда не выйдем… Вы ничего, ничего не поняли в моем поведении! Так послушайте, что я скажу…
Сейчас, когда все закончилось и делом Пахаря занимаются сразу две комиссии – следственная и научная, мне часто вспоминается эта неожиданная исповедь. Я слушал ее, прислонившись к двери, ведущей наружу, в пустоту, а Пахарь, в неуклюжем скафандре со снятым шлемом, говорил, полулежа в углу.
Не скажу, что я тогда сразу поверил ему и все понял. Нет, многое я осмыслил и уяснил гораздо позднее. А тогда, отделяемый от мертвящей пустоты лишь тонкой полоской стали, я временами испытывал мутное чувство нереальности, потусторонности происходящего. Дверь за моей спиной медленно покрывалась пленкой изморози, и настоящему брейкеру ничего не стоило открыть электронный замок… Там, за дверью, был вечный холод и мрак, а здесь, в тесной камере, где так странно сошлись два узника, метался беспокойный человеческий голос:
– Я начну издалека, комиссар. Знаете ли вы, что люди и машины часто не понимают друг друга только потому, что пользуются языком? Да-да, комиссар, это так! Вы небось думали, что язык – самое лучшее средство общения? Ничего подобного!
– Я знаю об этом.
– Неужели? Откуда?
– Наши эксперты изучили изготовленное вами терминальное устройство и поняли его принципы.
– Вон оно что!.. Я вас недооценил, прошу прощения. Что же вы еще узнали?
– Мы узнали, что вы запрограммировали герионский компьютер, а через него – и международную сеть ЭВМ, на убийство доктора Минского.
Пахарь с отвращением и яростью окинул меня взглядом.
– Какая глупость! Зачем мне его убивать?
– Очевидно, чтобы провалить программу «Скайфилд».
– Что это за программа?
– Разработка способов производства искусственной пищи. То, чем занимается Минский. Аутотрофный синтез.
– А, «манна небесная»! «Камни, обращенные в хлебы»! Понятно. Значит, вы считаете, что на этом пути человечеству ничего не угрожает?
– Решать такие вопросы – не мое дело.
– А чье? Мое?.. Впрочем, да, мое. Но и ваше тоже! Это касается всех.
– Следствие изучит мотивы вашего преступления.
Пахарь вновь озлобился:
– Да нет никакого преступления, поймите вы! Нет! – он помолчал, переводя дух. – Ну хорошо, я хотел сказать вам кое-что, а теперь, пожалуй, расскажу все… Да, комиссар, я разработал систему общения с компьютером, основанную на принципах внеязыковой коммуникации. Вы замечали, что людям, мало знакомым между собой, бывает трудно понять друг друга? А почему? Потому что они вынуждены пользоваться только языком. А ведь масса информации прочитывается, как говорится, на лице. Порой словом невозможно выразить то, что говорится глазами. А иногда словами сообщается одно, а лицо говорит совсем другое. И наоборот – пустое междометие, какое-нибудь «Ах!» наполняется глубоким смыслом, если его сопровождает взгляд, говорящий многое. В общем, когда-то, очень давно, я задумался: а разве нельзя пополнить средства общения с компьютером чем-нибудь из этой, внеязыковой области? Представьте: машина ощущает человека, воспринимает его психофизическое состояние, «видит» его, как говорится, «насквозь» – и благодаря этому значительно лучше и глубже понимает то, что человек говорит, обозначает словами. Вот в чем состояла проблема, над которой я работал долго, очень долго – больше десяти лет.
О, это была адская, изнурительная работа! Мне пришлось решить массу частных, промежуточных проблем, преодолеть множество тупиков, несколько раз отказываться от уже пройденного пути, возвращаться назад и начинать заново… Я буквально сжился с компьютером, проводил в контакте с ним все свое время. Постепенно машина все лучше понимала меня, и вот два-три года назад кое-что начало получаться. Я добился того, что смог вести с компьютером сначала короткие, а потом все более длительные и глубокие беседы с использованием расплывчатых понятий.
Не знаю, поймете ли вы меня… Слушайте. В информатике есть такой термин – расплывчатые понятия. К ним относятся слова, которые, грубо говоря, значат вообще очень много, а конкретно – ничего. Примеры таких понятий: «честь», «любовь», «справедливость»… Каждому из них, конечно, можно дать какое-то одно, узкое определение, но любое из них будет неполным и неточным. До сих пор в общении с машинами расплывчатые понятия считаются большим злом, при постановке задач их стараются избегать, в крайнем случае – заранее придают им какой-то узкий, строго определенный смысл. Но если каждый раз машина может соотнести расплывчатое понятие с внеязыковой системой смысла, в ее памяти постепенно складывается образ данного понятия. Этому помогает человек, находящийся в глубоком психоинтеллектуальном контакте с компьютером. Он как бы подсказывает, высвечивает своей психикой разные грани понятия, и машина в конце концов начинает «догадываться», что, например, некая зыбкая химера, вроде «совести», реально существует в человеческом мире, и она есть вот это, и это, и то, и другое. Получая образ понятия, компьютер начинает понимать мир по-человечески – вот в чем главное достоинство моего метода!
Конечно, сделаны лишь первые шаги, сложность многих простых вещей компьютеру по-прежнему недоступна. Но все-таки кое-чего я добился! Порой в общении со мной машина улавливала такие тонкие оттенки смысла и настроения, задавала такие вдумчивые и глубокие вопросы, что временами она казалась мне близким другом или женой, с которой я прожил много лет! Но это было мое личное субъективное чувство, а в науке нужны твердые, объективные доказательства. Их мог дать только эксперимент. И я попытался его поставить.
Всякая теория проверяется практикой. Я решил, что мой способ «полисемантической психоинтеллектуальной человеко-машинной коммуникации» (так я его назвал) должен дать какие-то практические результаты, должен каким-то образом наглядно проявиться. Но как может проявиться на практике способность машины вникать в расплывчатые понятия? После долгих раздумий я решил, что доказательством такого понимания могла бы стать целенаправленная деятельность компьютера по реализации смысла расплывчатых понятий. Это звучит сложно, но на самом деле все просто. Если ребенку объяснили, что такое хорошо и что такое плохо, и он ведет себя соответственно, мы скоро убеждаемся, что он понимает смысл таких расплывчатых понятий, как «добро» и «зло», хотя ни одно из них он объяснить не может. Примерно в этом же плане я решил испытать и компьютер.
Правда, сначала мне пришлось преодолеть еще одну сложность. Дело в том, что все те понятия, которые я сделал для машины доступными, описывают чисто человеческий мир. Но у машины нет своей «биографии», своей судьбы, у нее нет «личной жизни», в которой бы она могла строить по ходу эксперимента свое человекоподобное поведение. Я столкнулся с необходимостью дать машине судьбу. Иными словами, я должен был ввести в условие задачи хотя бы некоторые конкретные обстоятельства, цели и стремления, определяющие индивидуальное поведение, жизненный путь. Понятно, что в моем распоряжении не было никакой другой судьбы, кроме своей. И я заставил машину как бы встать на мое место, войти в обстоятельства моей жизни.
Перед этим мне пришлось еще и скрупулезно покопаться в себе. Что именно в моем поведении должна смоделировать машина? Я – ученый. Главной жизненной ценностью для меня является истина, а наиболее характерной чертой поведения – стремление к ней. Пусть, решил я, компьютер какой-то определенной целенаправленной деятельностью докажет, что ему доступна многосмысленная и многозначная глубина этого расплывчатого понятия – «истина». В ходе длительного психоинтеллектуального контакта с машиной, путем взаимных расспросов и уточнений я ввел это понятие в сознание компьютера, эксперимент начался.
Я не знал, как именно должно измениться «поведение» машины, которая переняла словно бы часть меня самого, ведь подобный эксперимент проводился впервые. Однако я полагал, что когда компьютер начнет моделировать «стремление к истине», я это увижу. Время шло, я позволил себе некоторый отдых и написал ряд статей, где изложил кое-какие частные проблемы своего метода. Надо сказать, что в науке до этого я был неудачником. Круг идей, меня интересовавших, считался малоперспективным, с публикациями мне не везло – они проходили незамеченными. От этого жестоко страдало мое самолюбие, и я не раз приходил в отчаяние: годы идут, а ничего не сделано…
В общем, у меня был обычный комплекс рядового специалиста, занятого узкой темой. И вдруг грянули фанфары! В Гааге есть Всемирный депонентский центр, куда со всего света поступают для хранения и распространения научные труды. Компьютеры центра ведут тщательный учет запросов на выдаваемые работы и регулярно определяют индекс их популярности. Считается, что чем выше популярность книги или статьи среди специалистов, тем большую научную ценность она представляет. Так вот, по итогам года сразу две мои статьи вышли на первое место среди работ, посвященных человеко-машинному диалогу! Я, конечно, блаженствовал и ликовал, но вдруг меня как ударило: а что, если это и есть компьютерное «стремление к истине»? Ведь я хорошо помнил, как однажды компьютер спросил меня… (Тут необходимо оговориться. В применении к компьютеру я употребляю обыкновенные слова «спросил», «понял», «ответил», «осознал» и т.п. чисто символически, просто для обозначения сложных многоступенчатых процедур, из которых строится психоинтеллектуальное общение с машиной. Эти слова не передают ни содержания, ни физической формы процесса и используются лишь для простоты изложения.) Итак, однажды, еще в период подготовки эксперимента, компьютер спросил, является ли истиной то, что признано всеми? Я ответил, что в определенном смысле это так. Неужели, думал я теперь, именно такую трактовку понятия «истина» компьютер сделал основной? Если да, то в свете такого понимания «стремление к истине» – это стремление ко всеобщему признанию, к популярности, к славе! И компьютер реализует его, не ведая никаких сомнений, никаких внутренних преград!..
Только сейчас я с ужасом осознал, в какую интригу ввязался! До меня наконец дошло очевидное: расплывчатые понятия, как правило, выражают не просто духовный мир людей, но обозначают основные, главные черты человеческого существования. Эти понятия тесно связаны между собой, они объясняют, дополняют, словом, корректируют друг друга, как сказал бы математик. Я же вырвал из сложной иерархии духовных ценностей одну истину , ввел понятие о ней в сознание машины, тем самым чуть-чуть очеловечив ее, но не дал машине никакого представления о морали, совести, о том, что зовется «элементарной порядочностью»! Вот почему компьютер, поняв истину как «то, что признано всеми», мог смоделировать «стремление к истине» в виде беззастенчивого проталкивания в публику моих скромных научных трудов, ведь «материалом» эксперимента была моя жизнь! Чем больше я думал об этом, тем яснее видел, что машине совсем не трудно было осуществить такую подтасовку. Всюду – в космосе, на планете – бурлила невидимая жизнь: МИНИКС, компьютерная сеть Пояса Астероидов, непрерывно со световой скоростью обменивался информацией с такими же системами на Земле и Марсе, в тысячах электронных мозгов производились миллионы операций в секунду, и люди при всем желании могли проконтролировать лишь ничтожную часть того, что делали машины.
Считалось, что если машина исправна и оперирует верными данными, она не лжет. И это было правильно до тех пор, пока один-единственный компьютер не нацелился на выполнение такой задачи, в условии которой необходима была этика. Но она отсутствовала, и компьютер пошел своим, чисто машинным путем, ориентируясь не на порядочность, а на простоту и экономию усилий. Дано: «истина есть нечто общепризнанное». Цель: «смоделировать стремление (приближение) к истине». Решение: «приписать данным работам высший индекс популярности». Такова была, как я подозревал, компьютерная логика. Конечно, я мог лишь набросать схему, многие детали оставались неясными; обратиться же к машине с расспросами я не имел права – нарушилась бы чистота эксперимента.
1 2 3 4 5 6 7 8 9 10 11
Он резко подался вперед:
– Что вы знаете?!
Нервы мои были напряжены, я ждал опасных движений и ударил его прежде, чем подумал. Он опрокинулся в угол, пошевелился и затих. Я наклонился над ним. На губах Пахаря выступала кровь, но глаза, полные слез, были открыты. Он смотрел куда-то вверх, сквозь меня, и в этом отрешенном, пустом взгляде читалось полное равнодушие к собственной судьбе. Такой взгляд бывает у пилотов, когда их достают из обломков ракеты.
– Боже мой! – застонал он вдруг, мучительно морщась. – Вот он, этот мир!.. Вот его словарь: диверсия, покушение, убийство!.. Если б я знал!.. – он привалился плечом к стене и поднял на меня глаза. – Оставьте эту дверь, комиссар. Мы все равно отсюда не выйдем… Вы ничего, ничего не поняли в моем поведении! Так послушайте, что я скажу…
Сейчас, когда все закончилось и делом Пахаря занимаются сразу две комиссии – следственная и научная, мне часто вспоминается эта неожиданная исповедь. Я слушал ее, прислонившись к двери, ведущей наружу, в пустоту, а Пахарь, в неуклюжем скафандре со снятым шлемом, говорил, полулежа в углу.
Не скажу, что я тогда сразу поверил ему и все понял. Нет, многое я осмыслил и уяснил гораздо позднее. А тогда, отделяемый от мертвящей пустоты лишь тонкой полоской стали, я временами испытывал мутное чувство нереальности, потусторонности происходящего. Дверь за моей спиной медленно покрывалась пленкой изморози, и настоящему брейкеру ничего не стоило открыть электронный замок… Там, за дверью, был вечный холод и мрак, а здесь, в тесной камере, где так странно сошлись два узника, метался беспокойный человеческий голос:
– Я начну издалека, комиссар. Знаете ли вы, что люди и машины часто не понимают друг друга только потому, что пользуются языком? Да-да, комиссар, это так! Вы небось думали, что язык – самое лучшее средство общения? Ничего подобного!
– Я знаю об этом.
– Неужели? Откуда?
– Наши эксперты изучили изготовленное вами терминальное устройство и поняли его принципы.
– Вон оно что!.. Я вас недооценил, прошу прощения. Что же вы еще узнали?
– Мы узнали, что вы запрограммировали герионский компьютер, а через него – и международную сеть ЭВМ, на убийство доктора Минского.
Пахарь с отвращением и яростью окинул меня взглядом.
– Какая глупость! Зачем мне его убивать?
– Очевидно, чтобы провалить программу «Скайфилд».
– Что это за программа?
– Разработка способов производства искусственной пищи. То, чем занимается Минский. Аутотрофный синтез.
– А, «манна небесная»! «Камни, обращенные в хлебы»! Понятно. Значит, вы считаете, что на этом пути человечеству ничего не угрожает?
– Решать такие вопросы – не мое дело.
– А чье? Мое?.. Впрочем, да, мое. Но и ваше тоже! Это касается всех.
– Следствие изучит мотивы вашего преступления.
Пахарь вновь озлобился:
– Да нет никакого преступления, поймите вы! Нет! – он помолчал, переводя дух. – Ну хорошо, я хотел сказать вам кое-что, а теперь, пожалуй, расскажу все… Да, комиссар, я разработал систему общения с компьютером, основанную на принципах внеязыковой коммуникации. Вы замечали, что людям, мало знакомым между собой, бывает трудно понять друг друга? А почему? Потому что они вынуждены пользоваться только языком. А ведь масса информации прочитывается, как говорится, на лице. Порой словом невозможно выразить то, что говорится глазами. А иногда словами сообщается одно, а лицо говорит совсем другое. И наоборот – пустое междометие, какое-нибудь «Ах!» наполняется глубоким смыслом, если его сопровождает взгляд, говорящий многое. В общем, когда-то, очень давно, я задумался: а разве нельзя пополнить средства общения с компьютером чем-нибудь из этой, внеязыковой области? Представьте: машина ощущает человека, воспринимает его психофизическое состояние, «видит» его, как говорится, «насквозь» – и благодаря этому значительно лучше и глубже понимает то, что человек говорит, обозначает словами. Вот в чем состояла проблема, над которой я работал долго, очень долго – больше десяти лет.
О, это была адская, изнурительная работа! Мне пришлось решить массу частных, промежуточных проблем, преодолеть множество тупиков, несколько раз отказываться от уже пройденного пути, возвращаться назад и начинать заново… Я буквально сжился с компьютером, проводил в контакте с ним все свое время. Постепенно машина все лучше понимала меня, и вот два-три года назад кое-что начало получаться. Я добился того, что смог вести с компьютером сначала короткие, а потом все более длительные и глубокие беседы с использованием расплывчатых понятий.
Не знаю, поймете ли вы меня… Слушайте. В информатике есть такой термин – расплывчатые понятия. К ним относятся слова, которые, грубо говоря, значат вообще очень много, а конкретно – ничего. Примеры таких понятий: «честь», «любовь», «справедливость»… Каждому из них, конечно, можно дать какое-то одно, узкое определение, но любое из них будет неполным и неточным. До сих пор в общении с машинами расплывчатые понятия считаются большим злом, при постановке задач их стараются избегать, в крайнем случае – заранее придают им какой-то узкий, строго определенный смысл. Но если каждый раз машина может соотнести расплывчатое понятие с внеязыковой системой смысла, в ее памяти постепенно складывается образ данного понятия. Этому помогает человек, находящийся в глубоком психоинтеллектуальном контакте с компьютером. Он как бы подсказывает, высвечивает своей психикой разные грани понятия, и машина в конце концов начинает «догадываться», что, например, некая зыбкая химера, вроде «совести», реально существует в человеческом мире, и она есть вот это, и это, и то, и другое. Получая образ понятия, компьютер начинает понимать мир по-человечески – вот в чем главное достоинство моего метода!
Конечно, сделаны лишь первые шаги, сложность многих простых вещей компьютеру по-прежнему недоступна. Но все-таки кое-чего я добился! Порой в общении со мной машина улавливала такие тонкие оттенки смысла и настроения, задавала такие вдумчивые и глубокие вопросы, что временами она казалась мне близким другом или женой, с которой я прожил много лет! Но это было мое личное субъективное чувство, а в науке нужны твердые, объективные доказательства. Их мог дать только эксперимент. И я попытался его поставить.
Всякая теория проверяется практикой. Я решил, что мой способ «полисемантической психоинтеллектуальной человеко-машинной коммуникации» (так я его назвал) должен дать какие-то практические результаты, должен каким-то образом наглядно проявиться. Но как может проявиться на практике способность машины вникать в расплывчатые понятия? После долгих раздумий я решил, что доказательством такого понимания могла бы стать целенаправленная деятельность компьютера по реализации смысла расплывчатых понятий. Это звучит сложно, но на самом деле все просто. Если ребенку объяснили, что такое хорошо и что такое плохо, и он ведет себя соответственно, мы скоро убеждаемся, что он понимает смысл таких расплывчатых понятий, как «добро» и «зло», хотя ни одно из них он объяснить не может. Примерно в этом же плане я решил испытать и компьютер.
Правда, сначала мне пришлось преодолеть еще одну сложность. Дело в том, что все те понятия, которые я сделал для машины доступными, описывают чисто человеческий мир. Но у машины нет своей «биографии», своей судьбы, у нее нет «личной жизни», в которой бы она могла строить по ходу эксперимента свое человекоподобное поведение. Я столкнулся с необходимостью дать машине судьбу. Иными словами, я должен был ввести в условие задачи хотя бы некоторые конкретные обстоятельства, цели и стремления, определяющие индивидуальное поведение, жизненный путь. Понятно, что в моем распоряжении не было никакой другой судьбы, кроме своей. И я заставил машину как бы встать на мое место, войти в обстоятельства моей жизни.
Перед этим мне пришлось еще и скрупулезно покопаться в себе. Что именно в моем поведении должна смоделировать машина? Я – ученый. Главной жизненной ценностью для меня является истина, а наиболее характерной чертой поведения – стремление к ней. Пусть, решил я, компьютер какой-то определенной целенаправленной деятельностью докажет, что ему доступна многосмысленная и многозначная глубина этого расплывчатого понятия – «истина». В ходе длительного психоинтеллектуального контакта с машиной, путем взаимных расспросов и уточнений я ввел это понятие в сознание компьютера, эксперимент начался.
Я не знал, как именно должно измениться «поведение» машины, которая переняла словно бы часть меня самого, ведь подобный эксперимент проводился впервые. Однако я полагал, что когда компьютер начнет моделировать «стремление к истине», я это увижу. Время шло, я позволил себе некоторый отдых и написал ряд статей, где изложил кое-какие частные проблемы своего метода. Надо сказать, что в науке до этого я был неудачником. Круг идей, меня интересовавших, считался малоперспективным, с публикациями мне не везло – они проходили незамеченными. От этого жестоко страдало мое самолюбие, и я не раз приходил в отчаяние: годы идут, а ничего не сделано…
В общем, у меня был обычный комплекс рядового специалиста, занятого узкой темой. И вдруг грянули фанфары! В Гааге есть Всемирный депонентский центр, куда со всего света поступают для хранения и распространения научные труды. Компьютеры центра ведут тщательный учет запросов на выдаваемые работы и регулярно определяют индекс их популярности. Считается, что чем выше популярность книги или статьи среди специалистов, тем большую научную ценность она представляет. Так вот, по итогам года сразу две мои статьи вышли на первое место среди работ, посвященных человеко-машинному диалогу! Я, конечно, блаженствовал и ликовал, но вдруг меня как ударило: а что, если это и есть компьютерное «стремление к истине»? Ведь я хорошо помнил, как однажды компьютер спросил меня… (Тут необходимо оговориться. В применении к компьютеру я употребляю обыкновенные слова «спросил», «понял», «ответил», «осознал» и т.п. чисто символически, просто для обозначения сложных многоступенчатых процедур, из которых строится психоинтеллектуальное общение с машиной. Эти слова не передают ни содержания, ни физической формы процесса и используются лишь для простоты изложения.) Итак, однажды, еще в период подготовки эксперимента, компьютер спросил, является ли истиной то, что признано всеми? Я ответил, что в определенном смысле это так. Неужели, думал я теперь, именно такую трактовку понятия «истина» компьютер сделал основной? Если да, то в свете такого понимания «стремление к истине» – это стремление ко всеобщему признанию, к популярности, к славе! И компьютер реализует его, не ведая никаких сомнений, никаких внутренних преград!..
Только сейчас я с ужасом осознал, в какую интригу ввязался! До меня наконец дошло очевидное: расплывчатые понятия, как правило, выражают не просто духовный мир людей, но обозначают основные, главные черты человеческого существования. Эти понятия тесно связаны между собой, они объясняют, дополняют, словом, корректируют друг друга, как сказал бы математик. Я же вырвал из сложной иерархии духовных ценностей одну истину , ввел понятие о ней в сознание машины, тем самым чуть-чуть очеловечив ее, но не дал машине никакого представления о морали, совести, о том, что зовется «элементарной порядочностью»! Вот почему компьютер, поняв истину как «то, что признано всеми», мог смоделировать «стремление к истине» в виде беззастенчивого проталкивания в публику моих скромных научных трудов, ведь «материалом» эксперимента была моя жизнь! Чем больше я думал об этом, тем яснее видел, что машине совсем не трудно было осуществить такую подтасовку. Всюду – в космосе, на планете – бурлила невидимая жизнь: МИНИКС, компьютерная сеть Пояса Астероидов, непрерывно со световой скоростью обменивался информацией с такими же системами на Земле и Марсе, в тысячах электронных мозгов производились миллионы операций в секунду, и люди при всем желании могли проконтролировать лишь ничтожную часть того, что делали машины.
Считалось, что если машина исправна и оперирует верными данными, она не лжет. И это было правильно до тех пор, пока один-единственный компьютер не нацелился на выполнение такой задачи, в условии которой необходима была этика. Но она отсутствовала, и компьютер пошел своим, чисто машинным путем, ориентируясь не на порядочность, а на простоту и экономию усилий. Дано: «истина есть нечто общепризнанное». Цель: «смоделировать стремление (приближение) к истине». Решение: «приписать данным работам высший индекс популярности». Такова была, как я подозревал, компьютерная логика. Конечно, я мог лишь набросать схему, многие детали оставались неясными; обратиться же к машине с расспросами я не имел права – нарушилась бы чистота эксперимента.
1 2 3 4 5 6 7 8 9 10 11