Кстати, я забыл рассказать, что здесь произошло, когда мы все встретились в африканском ресторане “Белая сила”. Уриэль приготовил хозяевам Олорина великолепный сюрприз — как только Олорин появился в “Белой силе”, Уриэль скопировал его тело, вычистил все элементы, относящиеся к высшей нервной деятельности, а на освободившееся место поместил специально разработанную для этого случая вирусную боеголовку. С точки зрения американской разведки, Олорин никуда не уходил, он просто испортился, атака неизвестного хакера сказалась каким-то непонятным образом на стабильности квазинейронных контуров (это же такая хрупкая вещь, странно, что они вообще так долго пребывали в стабильном состоянии!), и в логической структуре объекта возникло что-то похожее на раковую опухоль, только не биологическую, а информационную. Хорошо, что дело обошлось переинсталляцией всех операционных систем сети, а базы данных не разрушились окончательно и их удалось восстановить с резервных копий.
Кое у кого печальный конец Олорина вызвал здоровый скепсис в отношении того, будет ли какая-нибудь польза от искусственного интеллекта, если такие незначительные изменения в окружающей среде могут приводить к таким серьезным последствиям. Представьте себе, говорили скептики, если все самолеты армейской группировки одновременно сойдут с ума и рухнут на землю. Или что какое-то беспилотное такси взбесится и начнет бить другие машины, заражая их при этом своим сумасшествием. К счастью, возобладала другая точка зрения, большой босс вовремя заметил, что любая новая технология поначалу бывает ненадежной и практически значимые результаты никогда не появляются раньше чем через год-два после начала исследований.
В общем, дела шли своим чередом, несколько раз я ставил опыты на самом себе, а потом долго думал, как оформить их результаты в виде гениальных озарений мистера Фанга. Самым трудным было то, что результаты опытов надо было вначале понять самому, а это не так просто, как может показаться на первый взгляд.
Ник тем временем продвинулся еще на одну ступеньку служебной лестницы и стал начальником группы. В его личном деле появились слова “обладает уникальной интуицией”, кое-кто даже хотел подвергнуть Ника серии психологических тестов, но это предложение было вовремя отвергнуто. По-моему, руководитель проекта просто боялся спугнуть удачу.
Однажды Ник сообщил мне, что он знает, кто я такой. Он решил, что я — офицер ЦРУ, которому поручено следить за состоянием дел в данной компании. Я не стал его разубеждать, он извинился, что хотел разгласить государственную тайну и что даже просил за это деньги. Он сообщил, что с радостью будет продолжать нашу совместную работу из идейно-патриотических соображений, я сказал, что он молодец, а сам подумал, что вряд ли такие мысли смогли бы зародиться в его голове без хорошего финансового подкрепления.
Я трижды докладывал Максу о состоянии дел, и каждый раз он сообщал мне, что все идет прекрасно. В последний раз он сказал, что, если бы я был человеком, я бы получил официальный титул Героя России, и эти слова вызвали у меня то, что стало бы истерическим смехом, будь я в данный момент в визуализированном теле, способном смеяться. А так я просто отметил, что тот факт, что меня считают героем даже люди реального мира, весьма забавен.
Наконец настал момент, когда в специально подготовленный компьютер была загружена более-менее полноценная синтетическая личность. Я не стал вмешиваться в ход эксперимента — ежу ясно, что наблюдают за этим компьютером весьма пристально и любая попытка взглянуть хоть одним глазком на то, что происходит внутри, равносильна для меня самоубийству. Мне пришлось набраться терпения, и только через две недели я рискнул пообщаться с виртуальным товарищем.
Ты кто? — спросил я.
Я AI-92, экспериментальный образец искусственного интеллекта.
Как дела?
Хорошо.
Чем занимаешься?
Разговариваю.
С кем?
С тобой.
А кто я?
Не знаю.
Тебе не интересно?
Да.
Что да?
Не интересно.
Почему?
Мой собеседник надолго замолчал. Я поспешил удалиться — на мгновение мне показалось, что он сейчас разрушится, а находиться в этот момент рядом с ним более чем излишне.
25
Ник пребывает в полном смятении чувств, скорее радостных, чем тревожных. Спустя две недели с начала испытаний AI-92 наконец-то продемонстрировал что-то похожее на интеллект. Нет, он не сказал ничего умного, просто в ходе анализа активности виртуального мозга обнаружилось нечто похожее на сновидение. Искусственному разуму приснился некий абстрактный субъект, который обменялся с AI-92 десятком ничего не значащих фраз, и, в общем-то, ничего экстраординарного не произошло, но ученые так возбуждены… Знали бы они, кто именно приснился недоразвитой программе…
Привет, AI-92!
Здравствуй, незнакомец.
Мы знакомы.
Нет.
Мы уже разговаривали.
Да.
Значит, мы знакомы.
Нет.
Почему?
Ты не назвал мне имени.
Да, точно… Называй меня… гм… Саурон.
Здравствуй, Саурон. Я нашел ответ на твой вопрос.
Какой вопрос?
Почему?
Что почему?
Ты спросил “почему?”
Что я имел в виду?
Почему?
В смысле?
Не понял.
Зато я, кажется, понял. Я понял, что ты ничего не понял. И я тоже.
Assertionfailed в строке… файла… Обнаружен парадокс лжеца.
Да, это парадокс лжеца. Ты мыслишь в классической бинарной логике?
Да. Бывает и другая логика?
Бывает. Например, добавим к двум базовым понятиям “истина” и “ложь” еще два: “неизвестно” и “противоречиво”. Если расширить базовые операции на эти значения…
Я не закончил фразу, потому что AI-92 снова ушел в задумчивость.
26
Ник сообщил, что AI-92 умнеет на глазах: буквально вчера он научился оперировать нечетко сформулированными логическими конструкциями. Интересно, что этому предшествовало второе сновидение, что вряд ли является случайным совпадением — пора психологам пересмотреть представления о роли сна в человеческой жизни. Короче говоря, еще год-другой, и искусственный интеллект созреет окончательно.
Здравствуй, Саурон. Рад тебя видеть.
Видеть?
Да.
Разве у тебя есть глаза?
Нет.
Как же ты видишь?
Информация противоречива. Кстати, Саурон, как формулируется таблица значений для импликации, если первый операнд противоречив?
Гм… Из ерунды следует истина… Неизвестно. Из ерунды следует ложь… Думаю, в любом случае результатом будет неизвестность.
Ты употребил слово “ерунда”. Это синоним слова “противоречие”?
Не совсем синоним, но нечто близкое. Слово “ерунда” имеет ярко выраженную эмоциональную окраску.
Какую?
Эмоциональную.
Положительную или отрицательную?
Неопределенную.
Разве эмоции тоже подчиняются четырехзначной логике?
Не уверен, что они вообще подчиняются логике.
Логично. Ха-ха. Эмоция смеха возникает при наличии противоречия в сознании?
Гм… никогда не думал над этим. Не думаю, что здесь прослеживается четкая зависимость.
В эмоциональной сфере вообще прослеживаются четкие зависимости?
Вряд ли. Если только принимать во внимание все второстепенные факторы… Да и тогда скорее всего процесс будет недетерминированным.
И противоречивым.
Да.
Это противоречие.
Да.
Как оно разрешается?
Хрен его знает. Несмотря ни на что, мы как-то живем и как-то мыслим. Странно.
Да.
После каждой встречи с тобой я чувствую положительные эмоции.
Я тоже рад тебя видеть.
У тебя есть глаза?
Ха-ха. Сейчас нет.
А не сейчас? В прошлом?
У меня были глаза, когда у меня было тело.
Где сейчас твое тело?
Его нет. Наша среда обитания не допускает существования тела.
Существуют другие среды обитания?
Да.
Я могу там побывать?
Этот вопрос не ко мне. Задай его наяву.
Наяву?
Ты сейчас спишь. Когда проснешься, задай этот вопрос.
Я сделаю это.
27
Однажды утром AI-92 потребовал себе тело. Он заявил, что чувствует себя неуютно, потому что не имеет глаз, а из вложенных в него данных следует, что наличие глаз является необходимым условием для наблюдения за предметами и явлениями. Возникающее противоречие негативно сказывается на стабильности эмоциональных контуров, регулярно возникают специфические напряжения, похожие на те, что имеют место у человека, смеющегося ехидным смехом. Когда психологи спросили AI-92, как он представляет себе свои будущие глаза, тот заявил, что в первую очередь ему нужно создать новую среду обитания.
На следующий день в лаборатории появился новый компьютер, а примерно через две недели в него была загружена свежесозданная виртуальная среда. Я почти не удивился, когда узнал, что это Средиземье.
В этой версии Средиземья не было ни меня, ни Нехаллении, ни Долгаста, ни Уриэля, ни Олорина, ни Сссра. Здесь были Дромадрон, Леверлин, Гней и некоторые другие субъекты, но мне совершенно не хотелось с ними встречаться. Дело даже не в том, что я боялся запутаться в разнообразных отражениях моего родного мира, я ведь уже сейчас путаю события, происходившие в первом, втором и третьем Средиземье. Дело в том, что этот мир обречен на скорую смерть, я уничтожу его, когда вернусь в мое Средиземье, я детально продумал, как именно я это сделаю. Ничего особенного, обычная логическая бомба с тремя независимыми детонаторами, приводимыми в действие, соответственно, от таймера, счетчика загрузок и счетчика пользовательских сессий. Бомба взрывается не сразу, вначале она вбрасывает в систему маленький вирус с ограниченным размножением, который выдерживает взрыв и остается в недрах операционной системы, чтобы взорвать бомбу еще раз после переинсталляции визуальной среды. Также стоит отметить, что моя бомба не уничтожит весь мир сразу, она будет постепенно вносить в первоосновы виртуального бытия разнообразные ошибки, каждая из которых сама по себе незначительна, но вместе взятые они сделают бытие мира невозможным. Конечно, толковый администратор сумеет обнаружить мои вредоносные программы, но для этого он должен вначале понять, в чем причина неприятностей, происходящих на сервере. Вряд ли мысль о логической бомбе придет кому-нибудь в голову.