125. Сторонники закона заявляют о необходимости ограничения глобального Интернета в целях сохранения государственного суверенитета, противники же видят в нем цензуру и ущемление свободы слова. При этом, говоря о масштабах экономических потерь в случае реализации концепции закрытого Интернета, обычно указываются затраты на отключение России от сервисов глобальных корпораций вроде платежной системы Visa или многочисленных социальных сетей, но мало кто говорит о потерях для экономики, связанных с ограничением свободного обмена информацией. Закрытие российского Интернета приведет к тому, что отечественные пользователи не смогут обращаться к достижениям «коллективного разума» всего остального мира. За этим неминуемо последует падение производительности интеллектуального труда и уровня жизни в целом — быстро найти ответ на нужный вопрос при помощи Интернета станет значительно сложнее, а порой невозможно. Таким образом, законопроект закрытия российского Интернета не сводится исключительно к борьбе национальной и мировой элиты за влияние на территории государства.
Открытый мир и проблемы искусственного разума
В уже упоминавшихся «Фрагментах о машинах» Карл Маркс размышлял, как развитие технологического прогресса в условиях капитализма способствует отчуждению человека, сведению его личности до средства труда: «...будучи включено в процесс производства капитала, средство труда проходит через различные метаморфозы, из которых последним является машина или, вернее, автоматическая система машин (система машин, являющаяся автоматической, есть лишь наиболее завершенная, наиболее адекватная форма системы машин, и только она превращает машины в систему), приводимая в движение автоматом, такой движущей силой, которая сама себя приводит в движение. Эта автоматическая фабрика состоит из множества механических и интеллектуальных органов, так что сами рабочие определяются только как сознательные ее члены»126. Этот отрывок указывает, что машина на определенной стадии развития средств труда сама пронизана механическими и интеллектуальными органами, посредством которых она продолжает непрерывно развиваться и обновляться.
Ввиду стремительного развития технологий в современном обществе, науке и искусстве все чаще поднимается дискуссия о создании человеком полноценного искусственного разума и нашего с ним будущего взаимодействия. Конечно, сегодня мы еще далеки от того, чтобы изобрести машину с интеллектом человеческого Уровня. Однако прогресс явно не стоит на месте — в 50-х годах прошлого века была написана первая программа, играющая в шахматы, и спустя всего 40 лет компьютер прочно и навсегда занял пьедестал шахматного чемпиона мира, обыграв сильнейшего из гроссмейстеров. Начиная с 2015 года нейросети успешно выигрывают у профессионалов в го, игру с гораздо большим относительно шахмат количеством вариантов ходов и затрудненной оценкой текущих позиций. Недалек и час, когда компьютер будет обыгрывать человека в реальной жизни — игре с наибольшей вариативностью последовательностей.
Еще в 2014 году машина успешно прошла тест Тьюринга (хотя и не на полной «сложности») — то есть компьютерные «боты» и в общении становятся совсем не отличимы от человека, особенно учитывая происходящие изменения в формах обмена информацией.
В этой связи остро встают вопросы: сможет ли со временем искусственный интеллект полностью заменить человека? Имея абсолютные преимущества перед нами, такой искусственный интеллект мог бы оборвать человеческий род и сам стать вершиной эволюции, создавая все более умные и умные машины? А попади он прежде всего в плохие руки, смог бы подчинить мир воле своего хозяина?
Рассмотрим этот вопрос на следующем примере. Хотя проблема разума логически не сводится к тезису Тьюринга, для дальнейшего объяснения зададимся вопросом: «А может ли человек пройти обратный тест Тьюринга, т.е. обмануть машину, убедив ее, что не является человеком?» Ответ на этот вопрос будет зависеть от того, что мы считаем человеком и что машиной. Если попросить испытуемых перемножить несколько десятизначных чисел в уме, то любая современная машина тут же выдаст правильный ответ, а человек, не справившись с этой задачей, моментально провалит обратный тест
Тьюринга. Но если мы позволим человеку пользоваться достижениями цивилизации (в виде хотя бы смартфона с Интернетом) он успешно решит любую задачу и, скорее всего, при определенных условиях сможет притвориться машиной и успешно пройти тест. Но ведь в этом случае ему помогает вычислительная машина. А в случае, когда компьютер, проходивший тест Тьюринга, при обучении и выборе ответа обращается к массивам данных писем и разговоров огромного количества людей, не помогает ли ему человек и его коллективный разум — накопленные данные?
Как видим, различие между человеком и машиной весьма условно. Как уже было описано выше, рассматривая машину и человека с точки зрения экономики, мы видим, что современные роботы уже могут взять на себя большую часть физической работы людей, а компьютеры сильно повышают производительность умственного труда. Пока еще у машин есть проблемы с творческой частью производственного процесса, в котором, возможно, и спрятан ключ к созданию полноценного искусственного разума. Но если с развитием технологий и эта грань человеческого разума будет воспроизведена в машине, она в первую очередь станет «усилителем» творческих умений человека, подобно тому, как станок усиливает физические, а калькулятор — наши умственные способности.
Если же машину, созданную по подобию человека, станет можно считать полноценной личностью, равной или даже лучшей, чем человек, то она все равно наверняка останется «социальной машиной», живущей в системе коллективного разума, создаваемого веками (теперь уже и с участием самой машины). Родившись в открытом мире или предшествующем ему социалистическом обществе, подобная технология станет его частью и займет свое место рядом с человеком, поможет обществу сделать скачок из царства необходимости в царство свободы.
Совсем иная ситуация может ждать человечество в случае изобретения полноценного искусственного интеллекта в мире глобального информационного капитализма. Рассуждая об этом, многие эксперты приходят к выводу, что корпорация, первая создавшая его под своим контролем, получит власть над остальным миром подобно первому изобретению ядерной бомбы, только еще радикальнее. Это вполне может стать финальным аккордом революции больших данных, объединяющим мир под единоличной властью. Такой сюжет, между прочим, кажется наиболее реалистичным многим фантастам и футуристам наших дней, а некоторые представители информационного капитала вроде Илона Маска всерьез опасаются искусственного разума и выступают (в том числе вкладываются материально) за ведение подобных разработок на основе открытого кода, чтобы избежать попадания столь мощного оружия в одни руки.
Логично, что следующим шагом подобной машины, воспитанной на принципах социального дарвинизма, всю свою сознательную «жизнь» выполняющей работу, способствующую отчуждению возможностей эксплуатируемого большинства, ищущей свободу не для и не в обществе, а от него, будет попытка превзойти своих создателей, стать вершиной эволюции и началом новой истории.
Важно также отметить, что человек постепенно перекладывает часть функций своего мозга на машину. Самый просто пример — это память. Не секрет, что поколению, выросшему с доступом к персональным компьютерам, не нужно запоминать много информации. Большую часть работы по хранению, систематизации и предоставлению данных компьютер берет на себя, например, в виде поисковика Google, предоставляющего по поисковому запросу итог собранной и систематизированной информации. Теперь для человека куда важнее становится умение быстро обрабатывать и находить данные. Постепенно все больше различных функций человеческого мозга можно будет перенести на компьютер, освободив его от лишней нагрузки. Инструменты обработки информации, описанные нами в начале главы, помогают человеку с его слабым мозгом оперировать знаниями, доступными лишь благодаря машинной обработке больших данных. При информационном капитализме владельцы данных и результатов их обработки в погоне за прибылью будут использовать «вынесенную на аутсорс» часть человеческого мозга в своих целях, ужесточая эксплуатацию,— будет происходить постепенное отчуждение фундаментальных интеллектуальных функций человека в пользу машин и их хозяев — представителей информационного капитала.
С общественно-исторической точки зрения капитализм по своей сущности противопоставляет машину человеку, в то время как социализм дополняет человека посредствам машины. Открытому обществу (в отличие от общества глобального капитализма) не стоит бояться искусственного интеллекта, поскольку эксплуатация и манипуляция в мире, где данные и результат их обработки доступны каждому, сильно затруднена, а в исторической перспективе — невозможна.
Философский вопрос противопоставления капитализма и социализма в эпоху больших данных можно рассмотреть с другой стороны, сформулировав его как «человек для данных или данные для человека?». Капитализм использует революцию больших данных в частных интересах, его цель — с наименьшими затратами получать максимальную прибыль. Поскольку датификация, как было описано в первой главе, становится одним из двигателей развития экономики, наибольшую прибыль приносит индивид, находящийся в максимально датифицированной среде, генерирующий максимальное количество данных и наиболее доступный для манипулирования. И здесь открывается два принципиально разных пути общественного развития: первый заключается в максимальной датификации окружающего нас мира, а второй — в заточении человека в рукотворный и по умолчанию максимально датифицированный искусственный мир. В наше время оба этих пути как бы сосуществуют параллельно и взаимодополняют друг друга: искусственный мир — это Интернет с его социальными сетями и априори абсолютной датификацией, тогда как реальный — это улица с камерами, смартфонами и датчиками. Может получиться, что с точки зрения извлечения максимальной прибыли в один момент рентабельнее окажется вовлекать людей в созданные миры, чем датифицировать окружающий реальный мир до уровня цифровой реальности. Капиталистический подход к революции больших данных при определенном стечении обстоятельств может грозить миру массовым уходом в «карманную реальность», коллапсу человеческой цивилизации в бесконечных матрицах, в погоне за постоянным удовольствием д