Что же делать, если улучшить результат могут только более серьезные изменения? Возможно, стоит установить интервал в две с половиной секунды, но постоянные дополнительные поправки не помогут это выяснить, поскольку алгоритм застрял на пятисекундном интервале. Вот почему в самонастраивающиеся алгоритмы заложена возможность большой случайности. Зачастую алгоритм выходит на новый уровень эффективности, когда в почти идеальных настройках происходит сбой[9].
Такой механизм скачкообразного развития часто бывает заложен в самонастраивающихся системах. Пример тому – полезные мутации, которые происходят в ходе биологической эволюции из-за постоянно нарастающего числа событий. В основе этого процесса лежит естественный отбор, когда гены отдельной особи либо передаются потомкам, либо нет. Мутация – непредсказуемый фактор, открывающий новые возможности, резкий скачок. Каждая новая мутация добавляет виду странные особенности, делающие его сильнее.
Нейрофизиологи закономерно интересуются, может ли подобный процесс происходить в мозге человека. Пока мы знаем, что мозг может адаптироваться к любым условиям, поскольку природа не терпит сбоев.
Пока рекламный алгоритм влияет на эмоции человека, случайность, облегчающая адаптацию программы, подпитывает у людей зависимость. Алгоритм пытается уловить идеальные параметры для манипуляции мозгом, а мозг пытается найти в этом более глубокий смысл и меняет свою реакцию в ответ на эксперименты алгоритма. В основе этой игры в кошки-мышки лежит чистая математика. Поскольку стимулы алгоритма случайны, а значит, бессмысленны, мозг адаптируется не к чему-то реальному, а к выдумке. Этот процесс – застревание в ловушке зыбкого миража – и есть зависимость. По мере того, как алгоритм пытается выбраться из ямы, человеческий разум в ней застревает.
Первыми это пересечение математики и человеческого мозга стали исследовать не компании – владельцы социальных сетей, а создатели цифровых игровых автоматов, вроде видеопокера, и интернет-сайтов с азартными играми. Временами эти первопроходцы жалуются на то, что соцсети нажились на их идеях и получили кучу денег, но чаще они признаются, что соцсети помогают им вычислять легкую добычу[10].
Рай и ад – это другие[11]
Социальные сети вводят стимулы нового измерения: социальное давление.
Люди точно чувствуют социальный статус, оценку и конкуренцию. В отличие от большинства животных, люди не только рождаются абсолютно беспомощными, но и остаются такими на протяжении многих лет. Мы выживаем лишь благодаря членам своей семьи и другим близким людям. Построение социальных связей – не дополнительные, а основные функции человеческого мозга.
Власть мнения окружающих оказалась достаточно сильной, чтобы повлиять на поведение участников знаменитых исследований, вроде эксперимента Милгрэма и Стэнфордского тюремного эксперимента. С помощью механизма социального давления нормальных людей, никак не связанных с преступным миром, заставляли делать ужасные вещи, мучить других.
В социальных сетях манипуляция общественными эмоциями стала кратчайшим путем к созданию системы поощрений и наказаний. В будущем ситуация может измениться, если, например, дроны начнут сбрасывать вам с воздуха настоящие конфеты, когда вы сделаете то, чего хочет алгоритм, но сейчас все основано на чувствах, которые он у вас вызывает. И связаны они, как правило, с тем, что думают о вас другие.
Когда мы боимся, что будем выглядеть в глазах окружающих недостаточно крутыми или привлекательными, мы чувствуем себя плохо. Этот страх – глубокое эмоциональное переживание. Оно причиняет боль.
Все люди время от времени страдают социальной тревогой. И каждый ребенок сталкивался с обидчиком, который делал социальную тревогу инструментом для издевательств – возможно, сам агрессор прятал за хулиганским поведением страх стать объектом насмешек. Вот почему люди, которые в нормальных условиях вели бы себя прилично, обычно набрасываются на жертву. Они настолько боятся настоящей боли, которую причиняет социальная тревога, что на какой-то момент забывают о своей лучшей стороне.
Это не означает, что все социальные эмоции приносят страдания. Общаясь с другими людьми, можно ощутить и чувство локтя, симпатию, уважение, восхищение, благодарность, надежду, сопереживание, эмоциональную близость, влечение и еще огромное множество других положительных переживаний. Но с другой стороны, мы ощущаем также и страх, неприязнь, отвращение, ревность и желание зло высмеять другого.
Если эмоция, вызванная социальным взаимодействием, служит поощрением или наказанием, то нельзя ли использовать ее для изменения личности человека? Этот вопрос изучали много лет, и ответ на него, по всей видимости, зависел от того, какие группы населения исследовали и в какой ситуации находились испытуемые. Одни ученые считают, что маленькие дети лучше реагируют на поощрение, чем на наказание, хотя после двенадцати лет ситуация может поменяться на противоположную[12]. Другие предполагают, что наказание для студентов колледжа эффективнее поощрения[13]. Вот краткое описание исследования, указывающего на то, что эмоциональная поддержка эффективно мотивирует взрослых работников[14]. Может оказаться и так, что то, какая разновидность обратной связи эффективнее[15], определяет характер поставленной задачи[16].
Целый ряд научных исследований сравнивает силу положительной и отрицательной обратной связи, но вовсе не это занимает проектировщиков платформ для коммерческих социальных сетей, заинтересованных в снижении затрат и повышении производительности. Независимо от эффективности положительной обратной связи, отрицательная обратная связь оказывается более выгодной, а потому чаще встречается в соцсетях.
Отрицательные эмоции – страх или гнев – легче возникают и дольше сохраняются, чем положительные. Чтобы завоевать доверие, требуется больше времени, чем для того, чтобы его потерять. Реакция «бей или беги» запускается в считанные секунды, а вот на то, чтобы успокоиться, уходят часы.
Это работает в реальной жизни, а в упрощенном мире алгоритмов работает еще лучше.
Нет никаких злых гениев, которые посидели в огороженном уголке офиса компании, владеющей той или иной социальной сетью, провели расчеты и решили, что заставлять людей страдать более «увлекательно», а потому и выгоднее, чем вызывать у них положительные эмоции. По крайней мере, я их точно не встречал и ничего о них не слышал.
Основополагающий принцип увлекательности подкрепляет сам себя, и никто даже не замечает, как отрицательные эмоции начинают преобладать над положительными. Увлеченность не обязана служить никакой конкретной цели, а в результате получается глобальное распространение «легких» эмоций, которые в подавляющей массе оказываются отрицательными.
Бит как приманка
Если мы посмотрим шире и вспомним, что люди должны делать нечто большее, чем просто приспосабливаться, чтобы их вид выжил, окажется, что бихевиоризм не подходит для описания общества. Если вы хотите иметь мотивацию хорошо работать и переживать творческое вдохновение, а не изнурительно механически заучивать информацию, то поощрение и наказание – не лучшие инструменты.
Исследованием этого вопроса занимался целый ряд ученых, среди которых Абрахам Маслоу и Михай Чиксентмихайи (совместно с такими авторами, как Дэниел Пинк). Если мы хотим, чтобы люди действовали творчески, мало применять простые механизмы бихевиоризма, нужно найти к людям более творческий подход. Нам нужно воспитывать в себе радость, желание разгадывать интеллектуальные загадки, индивидуальность, любопытство и другие качества, которые не вписываются в аккуратную схему.
Но есть один момент, связанный с ригидностью цифровой технологии и двойственной природой бита, который привлекателен для бихевиористского образа мышления. Поощрение и наказание напоминают нуль и единицу. Поэтому неудивительно, что Б. Ф. Скиннер был одной из важнейших фигур в развитии цифровых сетей[17]. Он рассматривал их как идеальный способ выдрессировать человечество для утопии, к которой он стремился, утопии, в которой мы все вели бы себя, как нужно. Одна из его книг называется «По ту сторону свободы и достоинства». По ту сторону!
Благопристойное слово «увлеченность» скрывает, насколько глупа машина, которую мы построили. Нужно начать открыто говорить «зависимость» и «изменение поведения». Вот еще один пример благопристойной речи: мы до сих пор называем клиентов владельцев социальных сетей «рекламодателями», и, честно говоря, многие из них и есть рекламодатели. Они хотят, чтобы вы покупали мыло и другие товары определенной марки. Но они же могут вести себя совершенно мерзко и исподтишка подрывать демократию. Так что я предпочитаю звать этих типов манипуляторами.
Да простят меня продавцы мыла… Впрочем, могу сказать, что сотрудники компаний вроде Procter & Gamble ведут себя вполне нормально – я общался с некоторыми из них, – и их мир был бы намного счастливее, если бы им не пришлось отчитываться перед владельцами социальных сетей.
В самом начале своего появления онлайн-реклама была действительно просто рекламой. Но вскоре прогресс в сфере компьютерных технологий удивительным образом совпал с абсурдной и порочной системой финансовых поощрений, о которой речь пойдет в следующей главе. Что же случилось после того, как корпорации основали «империи изменения поведения» и стали сдавать их в аренду? Такого рода метаморфозы всегда привлекают непорядочных манипуляторов.