Последние слова, очевидно, задели какую-то струнку в душе Рассела, потому что он швырнул свои таблицы на стол рядом с таблицами Хейвуда и стал лихорадочно доставать из нагрудного кармана пачку сигарет.
— В том-то и дело, — сказал он, глядя перед собой расширившимися глазами. Он потер щеку и несколько раз бесцельно прошелся по лаборатории. И вдруг его прорвало: — Мы же тычемся вслепую, Вик! Да, вслепую, а пока мы спотыкаемся на каждом шагу, кто-то размахивает над нашими головами дубинкой. Мы понятия не имеем, кто он, не знаем даже, один он или их много, и нам вовек не предугадать, когда они замахнуться в очередной раз. Послушай, мы — инженеры, специалисты по кибернетике. Наша цель — создать такой мозг, который, будучи помещен в соответствующий самоходный корпус, мог бы управлять им. Это чисто инженерная проблема, и незачем рассматривать ее иначе. Но при этом нельзя забывать, что возможность заниматься этим делом нам предоставили только потому, что кому-то стукнуло в голову, штамповать солдат на конвейере так же, как пушки и танки. И СЕКИМПОВС формулирует нашу задачу не как разработку электронного мозга, помещенного в независимый подвижный корпус, а исключительно как создание робота, который воплощал бы в себе концепцию идеального солдата. Да только никому неведомо, каким должен быть идеальный солдат. Одни говорят, что он должен выполнять приказы максимально точно и с недоступной для человека скоростью. Другие считают, что он должен обдумывать свои действия, чтобы не создавать себе излишних препятствий, импровизировать в ситуациях, не предусмотренных полученным приказом, — словом, действовать, как обычный солдат-человек. Тот, кто ждет от него повиновения приказам, доведенного до абсурда явно не желает, чтобы он оказался достаточно сообразительным и осознал, что он — робот. Они боятся самой этой идеи — понимания. Другие, согласные наделить его свободой воли, опасаются, что ему достанет разума, чтобы отказаться беспрекословно выполнять приказ в безнадежных ситуациях. А ведь это — лишь начало.
СЕКИМПОВС — межведомственный проект, но если ты думаешь, что военно-морской флот не шпионит за армией и наоборот, и оба они не заглядывают за плечо ВВС… Да ты же прекрасно знаешь эти игры скорпионов в банке.
Рассел безнадежно махнул рукой. Хейвуд, все это время спокойно попыхивающий сигарой, пожал плечами.
— Ну и что? От нас требуется одно — работать до тех пор, пока не удастся создать экспериментальную модель, удовлетворяющую всем требованиям. А потом пусть они устраивают столько сравнительных испытаний, сколько вздумается. Это их дело. Почему это так тебя волнует?
Рассел бросил сигарету и с силой растер окурок подошвой.
— Потому что мы не сможем создать такую модель, и ты должен понимать это не хуже меня! — Он ткнул пальцем в мою сторону. — Вот прототип. Он обладает всеми характеристиками, которые им нужны, и в нем предусмотрено изменение тех или иных параметров, которые могут помешать какому-то конкретному назначению. Мы можем отключить ту часть схемы, которая определяет его индивидуальность и тем самым превратить его в автомат, который хотят видеть в нем некоторые. Или мы можем оставить ему индивидуальность и отдавать приказы общего характера, чтобы он выполнял их теми способами, которые считает лучшими. Или, наконец, мы можем общаться с ним, как с человеческим существом — обучать его с помощью программ, воспитывать, предоставлять самому выбирать себе дело, как мы и поступаем с человеческими существами. — В голосе Рассела зазвучали истерические нотки. — Однако, если мы низводим его до машины, выполняющей приказы, словно какой-нибудь примитивный манипулятор, он становится медлительным. Невероятно медлительным, Вик, — в бою ему не протянуть и полминуты. И тут уже ничего не поделаешь. Как минимум, до тех пор, пока кто-нибудь не заставит электрический ток бежать по проводам быстрее, чем допускают законы физики. Мы получим лишь громоздкую безмозглую игрушку вроде дистанционно управляемых выставочных роботов, развлекавших публику еще сорок лет назад. Само собой, это никуда не годится. Ладно, мы оставим ему свободу воли, но ограничим ее настолько, чтобы она соответствовала психологии раба. Это уже кое-что. Так он сможет — теоретически — оказаться лучшим солдатом, чем обычный человек. Допустим, офицер прикажет ему патрулировать в определенном секторе, и он будет выполнять это наилучшим образом, выбирая каждый раз оптимальное решение в данной конкретной ситуации.
Но что он станет делать, если вернувшись обратно, не найдет офицера, который отдал приказ? Или, паче того, за это время произойдет отступление, и он вообще никого не застанет? Или наступит перемирие?
Кстати, как насчет перемирия? Можешь ли ты представить себе роботараба, впавшего в прострацию из-за того, что он не получает приказов, соответствующих принципиально новой обстановке? С тем же успехом он мог бы вовсе не ходить в это патрулирование, поскольку теперь не в состоянии выполнить то, к чему предназначен. Ведь действует он от сих до сих, от приказа к приказу. Насколько он способен оценить ситуацию, свое задание он выполнил. Тем временем противник может захватить его позицию и он понятия иметь не будет, что же теперь делать. А ну как тем временем заключили мир? Как ему сориентироваться? Ожидать прихода техников, которые заменят военную программу какой-то другой? Конечно, мы можем обойти это затруднение, заложив в него целый комплекс таких, например, приказов: Отправиться на патрулирование и по возвращении доложить; если меня не будет, доложить такому-то или такому-то; если здесь никого не будет, поступить следующим образом; если это будет невозможно, попытаться сделать так-то; если случится то-то и то-то, перейти к тому-то; но не смешивать то-то и то-то с тем-то и тем-то. Можешь себе представить военные действия, построенные на такой основе? А как с проблемой переориентации? сколько времени все эти роботы будут сидеть без дела, пока не окажется возможным снова их задействовать?
И сколько человеко-часов и материалов потребуется для всей этой работы? Ей-богу, мне нарочно не придумать более нелепого способа ведения войны. Что ж, мы можем уподобить всех этих роботов Пимми в том варианте, когда все его цепи функционируют безо всяких там пробных отключений. Но тогда перед нами окажется искусственное человекоподобное существо. Существо, которое не устает, не нуждается в еде и пище, пока его силовому реактору хватает плутониевых галет.
— Рассел горько рассмеялся. — А ВМФ будет из кожи вон лезть, чтобы армия, не дай бог, его не перещеголяла; внесут свою лепту в эту грызню и ВВС. Но в одном они всегда будут единодушны — станут испытывать автоматы-зомби без конца тестировать роботов-рабов.
Однако никто из них ни за что не согласится принять от нас робота-супермена. Они прячут чуть ли не под каждым лабораторным столом шпионов, одним глазом стреляющих друг в друга и не сводящих другого с нас. И все это обрушится на наши головы, едва они усмотрят хоть намек на то, что мы собираемся выпускать роботов, подобных Пимми. И то же самое произойдет, если мы не дадим им идеального солдата. А единственный идеальный солдат — это Пимми. Пимми может заменить любого человека на любом армейском посту — от солдата до главнокомандующего — в зависимости от программы, в него заложенной.
Но для этого он должен быть личностью в полном смысле этого слова.
Он должен быть даже умнее наших заказчиков. А они не смогут доверять ему. И не потому хуже, что он, допустим, не станет добиваться тех целей, которые они перед ним поставят, а из-за того, что он, вероятно, пойдет к этим целям непонятным для них путем. Так что они не захотят других Пимми. Эта экспериментальная модель — единственное, что они нам позволят, потому что ее можно превращать в любую нужную им модификацию. Но они не возьмут Пимми целиком, со всеми его потенциальными возможностями. Им нужна только часть Пимми.
— Он как-то надрывно захохотал. Мы сделали им идеального солдата, но они не хотят брать его. Им нужно нечто меньшее, — но это меньшее никогда не сможет стать идеальным солдатом. Мы вкалываем, пашем без отдыха — повторяем, пересматриваем, переделываем. А зачем? Мы топчемся на месте. Мы уже изготовили им то, что им нужно, но они не приемлют этого. Если мы не уложимся в срок, они прикроют весь проект. Если же мы дадим то, что им нужно, оно окажется не тем, чего они хотят. Неужели ты не понимаешь этого? Что с тобой, Хейвуд?
Неужто ты не видишь, что мы в глухом и темном тупике, — только на самом деле он не такой уж темный, потому что у него есть глаза, глаза в каждом углу, следящие друг за другом, подглядывающие за нами, не упускающие нас из виду ни на миг, все время наблюдающие, наблюдающие…
Хейвуд уже поднимал телефонную трубку. И когда Рассел в изнеможении смолк, он вызвал госпиталь. Голос его звучал беспристрастно, хотя глаза были полны мрачного отчаяния, а губы скривились в такой гримасе, какой прежде я никогда от него не видел.
Другой рукой он мягко поглаживал по плечу сотрясающегося от рыданий Рассела.
25 августа 1974 г. Новым заместителем Хейвуда стал Лиггет. Это произошло через неделю после того, как увезли Рассела.
Первые три дня, пока Рассела никто не замещал, Хейвуд работал со мной один. Он — руководитель всего проекта, и я убежден, что у него нашлась бы и другая работа, которой он мог бы заняться до прихода нового заместителя, но он предпочел проводить это время в лаборатории со мной.
По лицу его нельзя было понять, что он думает о Расселе. По его лицу вообще никогда ничего не поймешь. Не то, что Лиггет, который лишь пытается скрывать свои мысли. Однако время от времени Хейвуд, работая, вдруг оборачивался или протягивал руку, а то и просто говорил: Рас…, — будто ему было что-то нужно, но потом сам себя ловил на этом, и взгляд его становился еще задумчивее.
Я понял далеко не все из того, о чем говорил Рассел в ту ночь, когда его увезли, и вчера спросил об этом Хейвуда.
— Что тебя беспокоит, Пим? — поинтересовался он.