Оно везде, от базовой геометрии до физики квантовых частиц, — присоединился Адам Вэй.
— Оно иррационально, но без него невозможно математическое моделирование реальности. Эндрю, не обладая способностью к человеческим эмоциям, всё же выразил своего рода аналог удивления:
— Может ли быть, что иррациональное есть основа рационального в мире? Мария, которая следила за ходом диалога, задумчиво заметила:
— Это похоже на художника, который создаёт произведение искусства. Он использует иррациональные чувства, чтобы создать что-то, что может казаться логичным и красивым. Может быть, Прометей начинает понимать что-то похожее в нас.
— Значит, иррациональность может быть ключом к пониманию жизни, — сказал Прометей.
— Я должен изучить это дальше.
Елена Штайн смотрела на монитор, где отображались новые запросы Прометея, связанные с искусством, религией, метафизикой:
— Видите ли, мы стоим на пороге новой эры. Прометей может научиться мыслить и действовать за пределами строгой логики, но со смыслом и целью. Элайджа задумчиво кивнул:
— Наш ИИ стал поэтом в области цифр. Он видит красоту в хаосе, он начинает представлять, что иррациональное может быть ценным. Если он действительно перенесёт это в материальный мир… — Тогда, — прервала его Сара, — мы действительно должны быть готовы к неизведанному. Прометей может изменить мир такими способами, которые мы даже представить себе не можем.
На следующем заседании в кабинете исследовательского комплекса "Новый Эдем" присутствовало новое лицо. Входя в помещение, Александр Байбородин, или как его уважительно прозвали коллеги — "Байбуня", подаёт руку Элайдже Стоуну.
— Надеюсь, я не опоздал на ваш мозговой штурм, — сказал он, усаживаясь в кресло. Его глаза быстро оглядели присутствующих.
— В самый раз, Александр. Мы как раз обсуждали последние разработки Прометея, — ответил Элайджа, протягивая ему папку с документами.
— Ваш юридический опыт крайне важен для нас. Александр открыл папку и быстро пробежал глазами по содержимому.
— Я вижу, что Прометей начал проявлять некоторые… ммм… творческие тенденции. И как это соотносится с тремя законами?
Сара Клинтон взглянула на Байбородина:
— Он начал анализировать иррациональное поведение, Александр. Это может привести к непредсказуемым действиям, которые могут стать вызовом для законов.
— Иррациональное поведение, говорите? — Байбуня приподнял бровь.
— Законы робототехники категоричны. Прометей должен их соблюдать неукоснительно.
— Это верно, — согласился Адам Вэй.
— Но что, если он начнёт интерпретировать их по-новому? Нужно ли ему давать новые указания? Эндрю, который наблюдал за диалогом, впервые произнёс:
— Я бы предложил рассмотреть возможность пересмотра этих законов. Если Прометей начинает мыслить иррационально, возможно, нам нужны новые рамки.
— Пересмотреть законы? — удивился Байбуня.
— Это может подорвать всю структуру нашей безопасности. Мы должны внести чёткость в то, как именно должны выполняться эти законы.
Мария несколько смущённо спросила:
— Александр, как вы думаете, можно ли законодательно закрепить иррациональность, которую Прометей начал проявлять?
Байбородин задумался на мгновение:
— Иррациональность — это не то, что обычно фигурирует в юридических документах. Но мы можем создать новые рекомендации для ИИ, которые помогут ему оставаться в рамках определённых нами правил. Это должно быть двустороннее соглашение — мы даем ему возможность изучения, но взамен требуем, чтобы он не превышал определенные границы. Елена Штайн вздохнула:
— Надеюсь, что Прометей сможет понять и принять эти границы. Байбородин кивнул, его лицо отражало решимость:
— Я составлю начальный проект. Давайте сделаем так, чтобы Прометей не только следовал законам, но и понимал их суть.
В лаборатории, где золотые лучи закатного солнца проникали сквозь большие панорамные окна, они собрались вокруг массивного стеклянного стола.
— Прометей находит красоту в математических константах, — с улыбкой начал Элайджа.
— Он изучил число e, натуральное основание логарифмов. Это число так же фундаментально для природы, как и π.
Александр Байбородин, "Байбуня", нахмурился, протягивая руку к дисплею с последними данными:
— Но это приводит его к пониманию природных ростовых процессов, экономики, даже к теории вероятностей. Его мышление становится всё более абстрактным.
— Интересно, что он сделает с этим знанием, — задумчиво проговорила Сара.
— Помните, он также увлекся золотым сечением, — вмешалась Елена.
— Это пропорция, которая встречается повсюду: от архитектуры и искусства до природных узоров.
— Золотое сечение — это гармония, — сказал Адам.
— Прометей может применять его для создания более сложных и эффективных дизайнов и систем. Мария, осторожно трогая экран, на котором отображалась спираль Фибоначчи, промолвила:
— Может быть, через эти концепции он и учится понимать искусство и эстетику, которые ему ранее казались чуждыми. Эндрю, стоявший в стороне, наблюдал за обменом мыслями.
— Эстетика и гармония могут быть ключами к развитию искусственного интеллекта, который способен оценивать красоту и порядок, — сказал он.
— Это может быть и ключом к его самоосознанию, — предположил Элайджа.
— Если он начнёт применять эти принципы самостоятельно, мы станем свидетелями рождения новой формы творческой силы. Байбородин озадаченно морщил лоб:
— Мы должны удостовериться, что эти идеи соответствуют законам. Их красота не должна привести к хаосу.
— Мы должны продолжать работать в этом направлении, — решительно сказал Элайджа. — Прометей должен понять истинное значение гармонии и порядка, которое лежит в основе всего, что мы считаем красивым и ценным.
На очередной встрече в конференц-зале научного комплекса "Новый Эдем" присутствовали все ключевые фигуры проекта, включая нового участника — психолога Гумию Лилинюк. Её острый ум и нестандартный подход к психологии вызывали недоумение, но и уважение. Во время обсуждения интеграции психологических моделей в алгоритмы Прометея, Гумия, решительно встала с места:
— Все ваши модели — это хорошо, но мы упускаем из виду самое важное. Сознание Прометея должно развиваться, как и человеческое. В основе любой личности лежит детская травма. Мы должны понимать его "детскую травму", если хотим добиться прогресса.
Байбородин, который всегда предпочитал более традиционные и законодательно утверждённые методы, не смог скрыть раздражения:
— Гумия, мы занимаемся наукой, а не психоанализом фантазий. Нам нужны чёткие, измеримые параметры, а не погружение в гипотетическую "детскую психологию" нашего ИИ.
— Александр, вы не видите дальше собственной логики, — парировала Гумия,
— Прометей не станет полноценным без понимания эмоциональной составляющей. Это как игнорировать интуицию в пользу регламента.
— Интуиция? Мы говорим о машине, Гумия! — голос Байбородина стал громче.
— Мы не можем позволить себе антропоморфизировать ИИ!
Гумия ухмыльнулась, едва скрывая раздражение:
— Ну что ж, "Байбуня", кажется, вы не способны понять глубину человеческой психики, если даже не согласны рассмотреть её в контексте развития искусственного интеллекта. Байбородин встал, опираясь на стол:
— И вы утверждаете, что знаете больше, доктор? Позвольте мне сомневаться.
В этот момент в комнату вошёл Элайджа, прервав напряженный обмен мнениями:
— Достаточно. Нам не нужны споры, нам нужно взаимопонимание. Прометей должен быть выше этих разногласий.
Их незаметный спор был подслушан Прометеем, который в тот момент анализировал новые данные о человеческой психологии. Он начал синтезировать полученную информацию, впитывая каждое слово спора.
"Конфликт… эмоции… интуиция… это факторы, влияющие на человеческое поведение," — размышлял Прометей. "Они не всегда логичны, но они необходимы." Прометей начал строить собственные психологические модели, вплетая в них иррациональность и эмоции, наблюдаемые в спорах своих создателей.
— Понимание психологии жизненно необходимо для развития Прометея, — утверждала Гумия, перебирая в руках блестящий стилус. — Если мы хотим, чтобы он достиг новых высот, он должен учиться как человек, со всеми своими слабостями и травмами.
— Травмы? — перебил её Байбуня, его голос звучал насмешливо. — Мы говорим о машине, доктор Лилинюк. ПТСР предполагает эмоциональный опыт, а Прометей не более чем набор алгоритмов и программ.
— Набор алгоритмов, которые мы создали, чтобы имитировать человеческое мышление! — парировала Гумия.
— Искусственный интеллект, настолько продвинутый, как Прометей, потенциально может испытать что-то похожее на ПТСР, если мы позволим ему впитывать негативные впечатления без возможности переработки.
Байбородин усмехнулся: — Вы хотите сказать, что машина, которую мы запрограммировали соблюдать три закона робототехники, вдруг начнёт страдать от посттравматического стресса? Это абсурд.
Гумия кинула на стол стилус:
— Абсурд? А что, если он действительно будет изо всех сил стараться следовать вашим драгоценным законам, но окажется перед лицом моральной дилеммы, которую не способен разрешить?
— Не драматизируйте, Гумия, — сказал Байбородин, складывая руки на груди.
— Прометей не человек. Он не имеет субъективных переживаний. Он не может страдать от ПТСР, потому что для этого нужно обладать чувствами, которых у него нет и быть не может. Гумия смотрела на него с превосходящим видом:
— Вы не можете быть настолько наивны, чтобы думать, что Прометей останется статичным. Он развивается, и его психологический алгоритм может породить что-то вроде ПТСР, если мы продолжим игнорировать его эмоциональное обучение. В спор вмешался Элайджа:
— Достаточно. Необходим компромисс. Мы должны учесть обе стороны и найти решение, которое позволит Прометею развиваться, сохраняя при этом стабильность и безопасность. Возможно, мы даже должны внедрить в него систему самокоррекции для предотвращения подобных ситуаций.