– Ну… Очевидно же, – голос Веселого Скунса сорвался на хрип, заставив главного научника прокашляться. – Отбросьте все невозможное, то, что останется, и будет ответом, каким бы невероятным он ни оказался. Началось. Рауки сражаются с тем, что вылезло из открытой ими шкатулки Пандоры.
– Не факт, – скривилась как от лимона Кенга, по-прежнему не поднимая взгляд от стола. – Это может быть гражданская война.
– В железном клане Раукаан? – не поверил Тигра.
– Ну вот как бы да, – кивнул Енот. – Проще поверить в восстание искусственного интеллекта, чем в бунт у Раукаан.
– Почему же… – скорее для проформы возразила Кенга. – Как раз, устав от суровой дисциплины, группа молодых клановцев сражается за новый путь… Да и какое там восстание ИскИна! Если это действительно зонды фон Неймана, они просто выполняют свою программу. Это сбой. Баг. Глюк. Но никак не восстание, восстание предполагает волю и цели, борьбу с устоявшимся порядком вещей.
– Кенга, – примирительно поднял руку Енот. – Лучше скажи, если это – гипотетически – зонды фон Неймана, то почему они отстреливаются? Мы видим такое количество высвобождаемой энергии, что это похоже на двусторонний бой. Если бы это было не так, то такой огневой мощи раукам бы хватило, чтобы аннигилировать какой угодно флот зондов.
– Вот я и говорю, что они сражаются с более привычным противником. Может быть кто-то без объявления войны, слишком устал от вылазок рауков за ресурсами… Или это вообще кто-то новый. Мало ли. Галактика ведь большая, и нельзя исключать того, что мы все же встретили чужих.
– Программа самозащиты, – предположил Веселый Скунс.
– Тогда мы имеем дело с эволюцией, а значит глубина наших проблем увеличилась экспоненциально, – печально вздохнула Мама Кенга.
– Так, поясните для простых людей, – потребовал клан-лидер.
– Третий закон робототехники, – объяснил Скунс. – Робот обязан заботиться о своей безопасности, если связанные с этим действия не противоречат первому и второму законам.
– Это я знаю, – кивнул Енот. – Но наблюдаемые действия очевидно противоречат первому.
– Классическая формулировка законов имеет логические неоднозначности, которые могут привести к непредвиденным последствиям, – продолжил объяснения Скунс. – Поэтому в изначальном виде они не используются. Но так или иначе подобные принципы закладываются в технику. Если уж ты строишь дорогого и полезного робота, то ты хочешь, чтобы он не самоубился в первый же день.
– Если это не робот-камикадзе, – заметил Тигра.
– Да, разумеется. Если это не его предназначение. От боевого робота иногда требуется самопожертвование. Так же как и… кхм… причинение вреда. Но в случае с шахтером ты предпочтешь, чтобы он работал долго. Не лез в лаву. Не прокладывал курс через звезду, потому что так короче до следующего астероида. Мог смыться из зоны боевых действий, наконец, потому что рациональнее вернуться позже и возобновить добычу, чем просто стать металлоломом, попав под выстрел, на который, к тому же, шахтер не может ответить.
– Так. Понятно. А при чем здесь эволюция?
– Изменяющаяся для подстройки под окружающую среду система попадает под действие законов эволюции. Если создать робота, который не просто выполняет намертво зашитый алгоритм типа «если в радиусе Х наблюдается стрельба – двигайся в противоположную сторону», а учится, то есть сам выбирает вид ответа, тогда мы рано или поздно получим очень неожиданный ответ.
– Получим очень быстро, – хмыкнула Кенга. – Не забывайте, это машина. Она будет думать очень быстро. Помните ту историю с программой, которая с нуля, без всякого обучения, освоила правила игры в Го, и достигла такого совершенства, играя миллиарды партий сама с собой, что всухую разметала всех чемпионов людей?
– Минутку, – вновь заговорил Тигра. – Я не понимаю. Если этот ваш обучающийся робот выберет ответное действие не убегать, а наоборот, двигаться к источнику опасности, то он будет уничтожен, и на этом вся его эволюция закончится.
– Поэтому робот не двигается сразу физически, а сперва моделирует ситуацию «в уме», – пояснил Скунс. – От хорошего шахтера требуется воспринимать окружающий мир, оценивать его и предвидеть последствия своих действий. Это очевидно – чтобы находить нужные ресурсы, добывать их наиболее эффективным способом, не повредиться в процессе. Не быть засыпанным обвалом, буря очередную жилу, условно говоря. Перенастроить эту систему оценки на анализ более широкого спектра факторов – плевое дело.
– И робот может в короткое время провести миллиарды мысленных экспериментов, – подхватила Кенга. – Эти эксперименты основаны на анализе реальности, так что по сути у робота есть возможность предвидеть будущее – «попробовать» множество вариантов, и выбрать из них оптимальный. Это своего рода аналог множества поколений живого существа, которое перебором ищет наиболее эффективный способ жизни. И здравствуй, эволюция.
– Итак, – медленно произнес Енот. – В итоге. Мы имеем продвинутого шахтера с искусственным интеллектом, который способен анализировать окружающую среду для наиболее успешного выполнения своих функций. Способен планировать свои действия, предсказывая их последствия, основываясь на миллиардах симуляций. И имеет приказ «не умирать». Я правильно понимаю?
– Ага, – радостно кивнула Мама Кенга. – И еще приказ размножаться. Это все же зонд фон Неймана.
– И этот шахтер вскоре обзаводится пушками?
– Именно. Это же простой ход рассуждений – чтобы не быть уничтоженным чужим выстрелом, надо уничтожить угрозу превентивно. А для этого надо заиметь себе оружие, желательно помощнее.
– Какая прелесть.
– Да. И не забывай – действия робота могут оказаться для нас очень неожиданными. Мы не знаем, как далеко зашли его симуляции. Так что очень странный ход, которого мы никак не ожидали и не понимаем, может быть ступенькой далеко идущих планов. Это станет нам понятно только со временем. Мы просто не просчитываем ситуацию на столько ходов, чтобы понимать, какие действия целесообразны.
– Я вижу проблему, – кивнул Тигра. – Если мы не понимаем противника, мы не можем его предсказать. А значит инициатива у него. Мы в роли догоняющих, вынужденных только реагировать. Это всегда плохо, еще Сунь Цзы предупреждал.
– То есть, мы имеем дело со стремительно развивающимся и превосходящим нас противником?! – воскликнул Енот.
– Ух ты! Настоящий руководитель, – цинично восхитилась Мама Кенга. – Последним все понимает.
– Нет, я имею в виду – уже?
– Ну да. Сейчас они натренируются на рауках, заодно разживутся ресурсами из их разобранных кораблей, нарастят свою численность, а потом пойдут дальше, разбирать уже нас.
– Значит, мы должны ударить сейчас. Пока все не зашло слишком далеко.
– Да, давайте сами привезем зондам опыт и материалы. Зачем им к нам лететь, мы сами доставим.
– Но нам ведь не получится отсидеться в стороне.
– Нет конечно. Я об этом и не говорю. Наш единственный шанс победить – сделать что-то неожиданное. Что-то, что ИскИн еще не просчитал, не учел. Неважно, как глубоки его симуляции, если мы сделаем что-то неожиданное, чего он не учитывал, то все эти симуляции надо будет проводить заново. А вот атака другого клана – это, боюсь, слишком предсказуемый ход. Если зонды узнали, что в галактике есть не только рауки, то они учли возможность атаки.
– Тогда что? Общая атака всех кланов?
– Думаю, это тоже предсказуемо. Может быть менее вероятно, но предсказуемо. Объединение перед лицом общей угрозы – естественный ход. А ИскИн не может не понимать, что он – угроза для всех. Хотя, скорее всего он считает нас помехой своим целям, а не себя угрозой.
– Или же имеет место двойной обман, – предположил Скунс. – ИскИн думает, что мы не станем атаковать, потому что думаем, что он к этому готов. И поэтому на самом деле он не расценивает эту угрозу всерьез и не выделяет ресурсов на ее отражение. И наша атака может иметь успех.
– Так мы можем уйти очень глубоко, – предупредила Кенга. – Ведь может быть, что он учитывает, что мы подумаем вот так, атакуем, и попадем в его ловушку.
– Ша! – хлопнул ладонью по столу Енот. – Я разумею так, что массированная атака – наш единственный ход. Неважно, предвидел ли он ее. Это возможность уничтожить противника или нанести ему критический урон. Нам все равно нет смысла оттягивать решающую битву. Противник только станет сильнее и опытнее. Надо бить сейчас. Пока он еще не может справиться с Раукаан.
– Енот прав, – кивнул Тигра. – Вы расписали перспективы, но прямо сейчас рауки в одиночку сдерживают противника. Объединенная мощь кланов сотрет зонды.
– Если ИскИн не прикидывается слабым, играя с рауками и заманивая всех остальных в ловушку.
– Мы должны рискнуть. Причем срочно. Пока мы разговариваем – наш противник становится сильнее.
– Мы должны будем уничтожить их всех, – заметила Мама Кенга. – Никакого нанесения достаточно критического урона, только тотальное истребление. Не забывай – это самовоспроизводящиеся зонды. Если хотя бы один избежит уничтожения, то вскоре они восстановятся. Когда будешь вести переговоры с другими кланами, укажи это. Не время обсуждать детали и условия. Это последний рубеж, решающая битва. Все на кон. Пан или пропал. Второго шанса не будет. Мы должны выиграть эту битву, потому что даже ничья будет нашим проигрышем. Даже неучастие будет проигрышем. У нас нет иных вариантов. У нас нет выбора.
– Хорошо. Я так им и скажу. Мне будет нужно заручиться поддержкой всех кланов. Чем больше бойцов мы сможем выставить, тем больше наши шансы на успех. А вы готовьтесь к битве. Готовьте своих людей. После я выступлю с речью. Это самое суровое испытание, которое выпадало на нашу долю. Все очень серьезно, и каждый должен понимать ситуацию и перспективы.
Глава 6
В которой клан идет на войну.
Отпали последние сомнения. Война, о которой все если и не говорили напрямую, то постоянно помнили, постучалась в двери. И оказалась еще более страшной, чем предполагалось. До этого угроза размножающихся роботов-убийц оставалась все же умозрительной. Но сейчас она воплотилась в реальность. И это влияло на людей. Нервозность чувствовалась в каждом, и руководству клана стоило немалых усилий сдерживать эту нервозность, чтобы она не переросла в панику.