31. В многочисленных живых лабораториях проходили тестирования самых разных аспектов индивидуальной и коллективной жизни, поведения индивидов, начиная от вопроса набора лишнего веса до электоральных предпочтений. «Мы смогли использовать связь между восприятием и поведением в прогнозировании результатов нескольких различных ситуаций и даже проводить манипуляции с окружением, чтобы вызвать поведенческие изменения»32. Конечно, живые лаборатории проводились в рамках законодательства, а их участники были в курсе эксперимента и оказываемого на них влияния. Однако вместе с датификацией нашей жизни, массовым использованием смартфонов, интернет-сервисов, электронных платежей и многого другого все общество шаг за шагом, само того не замечая, превращается в живую лабораторию. Во многих странах мира строятся «умные города», чья инфраструктура рассчитана на постоянный сбор и анализ больших данных горожан, а также динамичные изменения в зависимости от потребностей общества. Подобные города также по сути представляют собой территорию опережающей датификации, их создатели собирают все возможные данные городской среды (от денежных переводов и коммуникаций жителей до показателей сбора мусора), в большинстве случаев пока что не имея представления о том, каким именно образом будут использовать их в дальнейшем.
Владельцы данных получают возможности изучать и влиять на общественное поведение. «Уже по прошествии нескольких лет мы, возможно, будем располагать невероятно богатым набором данных о поведении практически всего человечества— и причем постоянно», — замечает Алекс Пентленд. Сегодня многие ученые и политики утверждают33, что возможности, открываемые революцией больших данных, создают для общества опасность построения новой информационной тоталитарной системы, контролирующей жизнь и поведение каждого человека.
Большие данные и управление обществом
Рассматриваемая нами технология используется сегодня в отдельных сферах и дает невиданные результаты. Вместе с тем государства и крупные корпорации ведут борьбу за владение новой информацией и большими данными, работают над созданием глобальных систем, объединяющих в единый механизм разрозненные информационные клади, создавая общие системы прогнозирования и управления общественным поведением на основе анализа больших данных. Приведем несколько примеров.
Американская система, разработанная по заказу спецслужб и Министерства обороны США компанией «Палантир», стоимость которой оценивается уже более чем в 20 миллиардов долларов, официально ставит своей основной задачей профилактику и борьбу с преступностью. Несмотря на предсказуемую закрытость системы, в СМИ и официальных отчетах часто фигурирует достаточно подробная информация о ее работе. После терактов 11 сентября правительство нацелилось на кардинальное усиление общественной безопасности. Работы по разбору, структурированию и анализу огромных массивов данных, создаваемых и имеющихся на тот момент в Соединенных Штатах (таких как записи десятков тысяч камер наблюдения, полицейские протоколы, финансовая деятельность и денежные переводы граждан, сведения о геолокации, поведение в Интернете и многое другое), выпала на долю «Палантира». Большую часть информации компания берет из государственных учреждений либо покупает у информационных корпораций. За полтора десятка лет своего существования «Палантир» выполнил задачу по анализу данных, предоставив спецслужбам и полиции США готовую систему общественного контроля на основе обработки больших данных. Каждое действие внесенных в базу субъектов (а внесены туда далеко не только преступники) цифруется и обрабатывается, а в случае, если анализ больших данных или явные действия наблюдаемого указывают на совершение им правонарушения, эта информация передается полиции или спецслужбам. К самым громким делам, раскрытым с применением анализа больших данных, относятся разоблачение группы азиатских хакеров34 и ликвидация Усамы бен Ладена (но это не точно). По каждому занесенному в общую систему больших данных американцу составляется и постоянно ведется сводная база информации, содержащая большое количество самых разных цифровых следов человека. Постоянная обработка базы специальными алгоритмами позволяет выявлять корреляции и информировать полицейских или спецслужбы в случаях, когда поведение одного из наблюдаемых, описываемое вновь полученными данными, может указывать на совершение им преступления или планирования такового. «Палантир» учитывает условный «уровень доверия» к каждому гражданину, присваивая «штрафные баллы» в случае, к примеру, его задержания полицией или иных событий, свидетельствующих о его антиобщественной деятельности. Различные системы больших данных, ставящие целью предупреждение преступлений и помощь правоохранительным органам, используются и многими другими странами, например, индийская система NATGRID точно так же, как и система «Палантира», собирает и совмещает данные для защиты страны от террористических угроз.
Оценивать людей по балльной системе решили и в Китае. Анализируя характеристики каждого гражданина, единая система больших данных присваивает ему «рейтинг благонадежности», от которого во многом будет зависеть его дальнейшая судьба. Гражданам с низким рейтингом благонадежности могут не выдать кредит, не допустить к учебе в хорошем заведении, не продать билет в другую страну и т.д. К поступкам, изменяющим рейтинг в глазах системы, относятся не только нарушения закона, но практически любые действия гражданина: асоциальное поведение, попытки обмануть налогового инспектора, нарушения правил планирования семьи и т.д. Особый шик системе добавляет связанность с камерами наблюдения, которых по всей стране уже установлено более 170 миллионов, а к 2020 году это число перевалит за 400 миллионов штук. Искусственный интеллект, анализируя большие данные, позволяет моментально найти и задержать нарушителя. Так, журналист ВВС, участвуя в эксперименте, сумел скрываться от китайского «Большого брата» всего 7 минут, после чего был задержан полицией35. Или другой известный случай, когда китайские камеры нашли обвиняемого в финансовых преступлениях гражданина, выловив его лицо в пятидесятитысячной толпе зрителей концерта знаменитого китайского певца Джеки Чуна36.
Приведенные примеры показывают, как массовая датификация, обработка больших данных позволяют государству и владеющими данными структурам выйти на новый уровень общественного контроля, эффективно борясь с любыми формами преступности и тотально регулируя общественное поведение.
Конечно, на протяжении всей истории, а особенно с начала двадцатого века специальные службы всего мира собирали данные на граждан с целью осуществления общественного контроля. Вместе с тем никакая Штази (считавшаяся наиболее продвинутой спецслужбой двадцатого века в плане установления массовой слежки и датификации ее результатов) и на десятую долю не владела данными, доступными корпорациям и государствам в начале двадцать первого века. Количество собранных ими данных раз за разом перерастает в качество, начавшаяся революция больших данных позволяет предугадывать преступления до их совершения, знать о человеке гораздо больше, чем он все еще знает о себе сам, а в перспективе— просчитывать вероятностные модели судьбы каждого отдельного человека на годы вперед и глобально регулировать общественное поведение.
Но помимо естественного тяготения государств и крупного бизнеса к контролю над обществом здесь присутствует еще один немаловажный фактор, непрерывно подталкивающий их к реализации модели «тоталитарного информационного концлагеря» в эпоху больших данных. Дело в том, что применять достижения науки во вред человеку могут не только государства или корпорации, но и простые преступники, мошенники, террористы. Например, авторы доклада «Вредоносная активность Искусственного интеллекта: Прогнозирование, и смягчение последствий»37, подготовленного учеными Оксфордского университета и рядом других крупных исследовательских организаций, указывают на то, что искусственный интеллект в самом ближайшем будущем сможет имитировать голос и манеру общения определенного человека, сделав возможным принципиально новый уровень обмана и мошенничества, а самоуправляемые дроны могут доставлять не только товары, но и оружие, наркотики или даже взрывчатку на большие расстояния без прямого участия человека, существенно расширив возможности террористов. Поскольку приведенные примеры, а также множество других вариантов противоправного использования технологий подрывают основы государственности, естественным ответом государств видится развертывание репрессивного аппарата на основе больших данных — тотальная деанонимизация и надзор во имя установления стабильности и безопасности всего общества.
Подвижки в этом направлении наблюдаются и в самых разных странах, и внутри крупных корпораций, об угрозах мирового терроризма в новую эпоху говорят всё чаще. К примеру, сегодня мало кто помнит, что всего 5-7 лет назад для полноценного пользования крупнейшими социальными сетями достаточно было иметь электронный ящик и вовсе не требовалось привязывать к странице номер мобильного телефона. Подобные подвижки постепенно снижают возможности анонимного пребывания в Интернете, позволяют собирать все больше данных, привязанных к конкретному человеку. Важной проблемой здесь является и то, что используя пугало «мирового терроризма» или «кибермошенников», правящий класс имеет возможность регулировать процесс становления подконтрольного общества, постепенно смещая окно Овертона. Может получиться так, что очередной поджог Рейхстага или взрыв небоскребов в одночасье легитимируют в общественном сознании саму возможность установления тотального контроля.
На пороге революции
Практически любые общественные институты, создаваемые цивилизацией (например, религия, народное образование, частная собственность), из поколения в поколение влияли на поведение индивидуумов, делая его более похожим и предсказуемым. Объединенные общими идеями, знаниями, верой, законами люди могли объединяться в племена, нации, общности. В этом смысле все развитие классового общества представляло собой движение от разрозненных групп индивидов ко все более структурированной и управляемой модели, объединяющей целые народы и всех жителей земного шара.