Искусственный разум и новая эра человечества — страница 4 из 33

На этих примерах особенно хорошо видно, какие барьеры появятся между социальными группами и странами, которые станут применять различные ИИ или не сделают этого. Если разные группы или государства используют разные ИИ, их способы восприятия реальности могут разойтись в непредсказуемых направлениях. По мере развития различных способов партнерства человека и машины – с разными целями, разными моделями обучения и разными практическими и этическими ограничениями в отношении ИИ – это может привести к росту конкуренции, технической несовместимости и взаимонепонимания. В результате технология, которая изначально считалась инструментом преодоления национальных различий и распространения объективной истины, со временем может стать причиной тотального отчуждения стран и народов.

Показательный пример – AlphaZero. Эта система доказала, что ИИ больше не ограничен пределами человеческих знаний – во всяком случае, в играх. Разумеется, ИИ AlphaZero, основанный на машинном обучении так называемых глубоких нейронных сетей, имеет свои ограничения. Но машины находят все больше решений, выходящих за рамки человеческого воображения. В 2016 г. компания DeepMind Applied, входящая в DeepMind, разработала ИИ (во многом родственный AlphaZero) для оптимизации охлаждения центров обработки данных Google. Над этой задачей уже работали лучшие инженеры мира, но ИИ DeepMind еще больше оптимизировал охлаждение, дополнительно сократив энергозатраты на 40 %. Это огромное улучшение по сравнению с человеческой производительностью[7]. Когда при помощи ИИ будут достигнуты сопоставимые прорывы в различных областях деятельности, мир неизбежно изменится. Результатом будет не просто более эффективное решение человеческих проблем – на многих открытиях ИИ будет лежать печать нечеловеческого обучения и мышления.

Как только производительность ИИ при выполнении той или иной задачи превзойдет человеческую, отказ от применения ИИ хотя бы в качестве дополнения к человеку будет восприниматься как признак недальновидности, халатности и даже саботажа. Но одно дело шахматист, которому ИИ посоветовал пожертвовать ценной фигурой (в этом нет ничего смертельно опасного), и совсем другое – главнокомандующий, которому ИИ порекомендует пожертвовать значительным числом сограждан, чтобы спасти (по расчетам ИИ) еще больше людей. На каком основании эту жертву можно было бы отменить и была бы эта отмена оправдана? Всегда ли люди будут знать, какие расчеты произвел ИИ? Смогут ли люди обнаружить ошибочное решение ИИ и вовремя отменить его? Если мы не в состоянии понять логику отдельных решений ИИ, должны ли мы верить каждой его рекомендации? Если мы заблокируем решения ИИ, не рискуем ли мы, вмешиваясь в слишком сложные для нас процессы? И даже если мы понимаем логику, цену и значение отдельных решений – что, если наш противник получил аналогичную рекомендацию от своего ИИ? Если он пойдет на жертву, а мы нет, потерпим ли мы поражение?

В случаях с AlphaZero и халицином ИИ решал задачи, поставленные перед ним людьми. Целью AlphaZero была победа в шахматах. Цель ИИ, открывшего халицин, состояла в том, чтобы убить как можно больше патогенов – и чем больше патогенов уничтожено без вреда для человека, тем больше успех. Еще одной целью была сфера, недоступная человеку: ИИ было поручено искать неизвестные способы доставки лекарств. ИИ добился успеха, потому что обнаруженный им антибиотик убивал патогенные микроорганизмы, но главное его достижение заключалось в том, что он расширил возможности лечения, открыв новый надежный антибиотик наряду с новым способом доставки.

Возникает новый вид партнерства между человеком и машиной. Сначала человек определяет задачу для машины. Затем машина, действуя в сфере, недоступной для человека, определяет оптимальный процесс, который человек потом может изучить, понять и, в идеале, внедрить в существующую практику. Стратегия и тактика AlphaZero расширили представления людей о шахматах, а ВВС США адаптировали основные принципы AlphaZero для нового ИИ μZero, который автономно управляет самолетом наблюдения U-2, принимая самостоятельные решения об использовании его радарных систем[8]. ИИ, открывший халицин, расширил наши знания как в узкой области уничтожения бактерий и доставки лекарств, так и в широком смысле (здравоохранение, медицина).

Это партнерство человека и машины знаменует собой появление совершенно нового опыта. Речь не о страхе перед всезнающими, все контролирующими машинами – это остается предметом научной фантастики и отвлекает внимание от подлинных вопросов общества, которые возникают в связи с партнерством человека и ИИ.

Приведем другой пример – поисковые системы. Десять лет назад, когда интернет-поиск был основан на анализе данных, а не на машинном обучении, можно было, например, сначала задать поиск «рестораны изысканной кухни», а затем – «одежда». При этом результаты второго поиска не зависели от результатов первого. В обоих случаях поисковая система собирала как можно больше информации, а затем выдавала варианты – что-то вроде цифровой телефонной книги или каталога. Но теперь поисковые системы не просто выполняют задания пользователей, а руководствуются моделями, основанными на поведении людей. Пользователю, который только что искал рестораны изысканной кухни, а теперь ищет одежду, возможно, предложат дизайнерскую одежду, а не более доступные альтернативы. И даже если его действительно интересовала именно дизайнерская одежда, разница очевидна – если раньше нам показывали весь диапазон возможностей, то теперь мы доверяем формирование исходного списка машине.

До сих пор разум был прерогативой, а начиная с эпохи Просвещения – и определяющим признаком человечества. Но теперь нашим партнером становится ИИ, и это повлияет как на людей, так и на машины. В дальнейшем машины будут просвещать людей, расширяя доступную нам реальность такими способами, о которых мы и не догадывались, а люди будут создавать машины, способные учиться и оценивать значение своих открытий. Так наступит новая эпоха.

Человечество имеет многовековой опыт использования машин для облегчения, автоматизации и замены ручного труда. Волны перемен, вызванных промышленной революцией, до сих пор прослеживаются в экономике, политике, интеллектуальной жизни и международных отношениях. Сегодня же мы медленно, почти не осознавая этого, начинаем пользоваться удобствами, предоставляемыми ИИ. Он уже стал нашим партнером в повседневной жизни – он помогает нам принимать решения о том, что нам есть, что носить, что делать и как добраться к тому или иному пункту назначения.

Но несмотря на то, что ИИ может делать выводы, вырабатывать прогнозы и принимать решения, он не обладает «самосознанием», то есть способностью размышлять о своей роли в мире. У него нет намерений, мотивации, морали или эмоций. И тем не менее ИИ изменит и людей, и среду, в которой мы живем. А если люди будут расти и учиться вместе с ИИ, у них может возникнуть подсознательный соблазн относиться к нему как к своему собрату.

Большинству людей ИИ останется непонятен, но все больше людей в университетах, корпорациях и правительствах начинают создавать и эксплуатировать ИИ. Благодаря внедрению ИИ в обычные потребительские продукты, такие как поисковые системы, многие из нас уже взаимодействуют с ИИ – осознанно или нет. И если число людей, которые могут создавать ИИ, растет, то ряды тех, кто задумывается о социальных, правовых, философских, духовных, моральных последствиях появления ИИ для человечества, пока немногочисленны.

Благодаря развитию и распространению ИИ человеческий разум открывает новые горизонты, приближая ранее недостижимые цели: новые модели для предсказания стихийных бедствий, более глубокое знание математики, более полное познание Вселенной. Но это происходит за счет изменения отношений человека с разумом и реальностью, а существующие философские концепции и общественные институты никак не подготовили нас к этой революции.

Глава 2Как мы здесь оказались. История человеческого мышления

На протяжении всей истории человечества люди пытались полностью постичь основы нашего мира и нашего существования. Каждый народ по-своему ставил вопрос о природе реальности: как ее осознать? Можно ли ее предвосхитить? Реально ли ее переделать или исправить? Решая эти вопросы, каждое общество вырабатывало собственный определенный набор инструментов для урегулирования взаимоотношений с окружающим миром. Концепция отношения человеческого разума к реальности – его способность познавать окружающее, удовлетворение, которое приносит это знание, и ограничения, присущие этому процессу, – всегда оставалась центральной в нашей картине мира. Даже если в той или иной эпохе или культуре человеческий разум считался ограниченным – неспособным воспринять или понять огромные масштабы Вселенной или эзотерические измерения реальности, – отдельному разумному человеку отводилось почетное место как единственному земному существу, способному наиболее полно понять мир и сформировать его картину. ИИ – новый мощный участник этого процесса, созданный человечеством. Чтобы разобраться в том, насколько значительна произошедшая эволюция, мы сделаем краткий обзор пути, на котором человеческий разум, пройдя через сменяющие друг друга исторические эпохи, обрел свой почетный статус.

Люди реагируют на окружающую среду и приспосабливаются к ней, выделяя явления, которые мы можем изучать и в конечном итоге объяснять – научно, теологически или обоими способами. Каждая историческая эпоха характеризовалась собственным пониманием порядка вещей, на основе которого развивались социальные, политические и экономические механизмы. Древность, Средневековье, Возрождение, современный мир создавали различные концепции человека и общества, пытаясь разобраться в том, где и как они вписываются в общий порядок вещей. Когда господствующие представления теряли способность объяснять воспринимаемую нами реальность – пережитые события, сделанные открытия, знакомство с другими культурами, – происходили революции в мышлении (а иногда и на политической арене) и начинались новые эпохи. Эпохальный вызов сегодняшнему пониманию реальности бросает наступающая эпоха ИИ.