Ошибки: фантазия о непогрешимости
Святой Августин говорил: «Человеку свойственно ошибаться; упорствовать в заблуждении свойственно дьяволу». Склонность людей к ошибкам и необходимость их исправлять занимают важное место в любой мифологии. В христианской мифологии вся история представляет собой попытки искупить первородный грех Адама и Евы. Бюрократия тоже постоянно пытается выявлять и исправлять ошибки. Сложные бюрократические системы обычно имеют внутренние дисциплинарные органы, а в случае катастрофы – например, военного поражения или финансового краха – создают комиссии по расследованию, чтобы разобраться, что пошло не так, и предотвратить подобные ошибки в будущем.
Чтобы механизмы самокоррекции работали, им нужна легитимность. Если людям свойственно ошибаться, как знать, не дадут ли сбой и механизмы самокоррекции? Чтобы выйти из этого замкнутого круга, люди пытались придумать некий безошибочный надчеловеческий механизм, на который можно было бы положиться в выявлении и исправлении человеческих ошибок. Сегодня некоторые верят, что такой механизм сможет обеспечить ИИ. Например, Илон Маск заявил, что собирается запустить TruthGPT – ИИ, нацеленный на поиск истины. Но это опасная фантазия, считает автор. В прошлом подобные фантазии принимали религиозную форму, а самой важной функцией религии традиционно было обеспечение надчеловеческой легитимности социального порядка.
Вывести людей из контура
В основе каждой религии лежит фантазия о связи с надчеловеческим разумом, неспособным на ошибку, поэтому изучение истории религий весьма актуально в контексте современных дискуссий об ИИ.
На протяжении всей истории разные люди утверждали, что несут послания богов, но эти послания часто противоречили друг другу. Как было отличить истинную волю богов от фантазий и выдумок обычных людей, которым свойственно ошибаться? Религия стремится вывести людей из контура и дать им безошибочные надчеловеческие законы, однако сама религия то и дело сводится к проблеме доверия тому или иному человеку.
Одним из решений стало создание религиозных институтов для проверки предполагаемых божьих посланников. Но поскольку в них работали все те же несовершенные люди, эти институты тоже были подвержены ошибкам и коррупции. Даже Пифию, верховную жрицу храма Аполлона в Дельфах, однажды подкупили, чтобы она подговорила спартанцев свергнуть афинского тирана Гиппия. (Это в итоге привело к установлению афинской демократии.)
Поскольку пророк из плоти и крови тоже мог сфальсифицировать волю бога, ключевая проблема религии не решалась созданием таких религиозных институтов, как храмы и жреческие сословия. Можно ли было в этой системе обойтись вообще без людей?
Безошибочная технология
Священные книги, такие как Библия или Коран, представляют собой технологию, позволяющую обойти человеческую склонность к ошибкам. Иудаизм, христианство, ислам и другие книжные религии выстроены вокруг таких технологических артефактов. Книга – это фиксированный набор неотделимых друг от друга текстов, который имеет множество идентичных копий. Это отличает книгу от устных рассказов, деловых документов и архивов. При устном пересказе историй со временем неизбежно возникают вариации, а у книги все копии идентичны. Документы, в отличие от книги, обычно невелики и часто существуют только в одном экземпляре. От архива же книга отличается тем, что в архивах хранятся разные наборы текстов, а во всех копиях книги содержатся одни и те же главы и разделы. Таким образом, книга обеспечивает доступ к одной базе данных множеству людей в разное время и в разных местах.
Книга стала важной религиозной технологией в первом тысячелетии до нашей эры. Религиозные течения стали заявлять, что боги используют новую технологию вещания – книгу. Одна особая книга содержит все божественные откровения обо всем на свете – от сотворения мира до правил питания. Что особенно важно, ни один священник, пророк или человеческая институция не забудут и не исказят эти откровения, потому что слова несовершенных людей всегда можно сравнить с тем, что написано в безошибочной книге.
Но книжные религии столкнулись со своими проблемами. Самая очевидная из них – кто решает, что включать в священную книгу? Первый экземпляр все-таки не сходит с небес, его составляют люди. И все же верующие надеялись, что эту проблему можно решить раз и навсегда. Если самые мудрые и авторитетные люди однажды договорятся о содержании священной книги, то с этого момента можно вывести людей из контура, и божественный текст навсегда будет защищен от человеческого вмешательства.
Против такой процедуры можно было бы выдвинуть множество возражений, но именно так составлялась еврейская Библия (Танах).
Сотворение еврейской Библии
В первом тысячелетии до нашей эры иудейские пророки, священники и ученые создали обширный массив историй, документов, пророчеств, стихов, молитв и хроник. В библейские времена Библии как единой священной книги не существовало. Ни царь Давид, ни пророк Исаия не держали ее в руках.
Иногда ошибочно утверждают, что древнейший из сохранившихся экземпляров Библии содержится в свитках Мертвого моря. Однако в них нет указаний на то, что двадцать четыре книги Ветхого Завета считались в то время единой и полной базой данных. Многие свитки содержат тексты, не вошедшие в библейский канон, но даже те, что вошли в него, отличаются от современных версий. Например, канонический текст Второзакония 8:6 требует от верующих бояться Бога, тогда как текст из свитков Мертвого моря призывает любить Бога. Есть и гораздо более серьезные расхождения.
Греческая Септуагинта – древнейший перевод Библии, выполненный между III и I веками до н. э., – тоже во многом отличается от более поздней канонической версии, как по своему составу, так и по объему включенных в нее книг.
Потребовались столетия споров между раввинами, чтобы упорядочить базу данных и решить, какие тексты включать в Библию как официальные слова Господа, а какие нет. Так, одни раввины отвергали Песнь песней как светскую любовную лирику, другие защищали ее как богодухновенное творение царя Соломона. В целом консенсус, по-видимому, был достигнут к концу II века н. э., но споры о деталях велись еще сотни лет.
В процессе канонизации было решено, что книга Бытия – слово Господа, а книга Еноха, Житие Адама и Евы и Авраамов завет – человеческие измышления. Псалтирь Давида вошла в канон (за исключением псалмов 151–155), а Соломонова псалтирь – нет. Книга Малахии была одобрена, книга Варуха – нет. Хроники – да, Маккавеи – нет.
После утверждения канона евреи стали забывать о роли человеческих институтов в сложном процессе составления Библии. Когда священная книга была утверждена, у евреев появилась надежда, что отныне им будут доступны точные слова Господа, которые не исказит ни один ненадежный человек и ни одна продажная институция.
На две тысячи лет предвосхитив идею блокчейна, евреи начали копировать священную книгу, чтобы у каждой еврейской общины имелась по крайней мере одна копия. Тем самым предполагалось демократизировать религию и ограничить власть потенциальных автократов, а также предотвратить вмешательства в текст. Казалось, отныне безошибочная технология книги гарантирует социальный порядок.
Возвращение института
Согласование содержания священной книги было не единственной проблемой; другая проблема была связана с ее копированием. Еврейские общины расселялись по всему миру, и трудно было гарантировать, что переписчики не исказят священный текст. Раввины разработали строгие правила копирования, однако ошибки все равно случались, и не существует двух абсолютно идентичных древних Библий.
Еще одна, гораздо более серьезная проблема касалась толкования. Одни и те же слова священного текста люди могут интерпретировать по-разному. Например, в Библии сказано, что нельзя работать в Шаббат, но не объясняется, что считать работой. Говорится, что не следует варить козленка в молоке его матери, но насколько буквально нужно трактовать этот запрет?
Кроме того, мир менялся, и старые правила было все труднее увязать с новыми условиями. Библейские тексты рассказывали о жизни пастухов и земледельцев в Палестине и Иерусалиме, но ко II веку н. э. большинство евреев жили в других местах и не находили в Библии ответов на насущные вопросы. Неизбежно возникало множество толкований, более последовательных, чем сама книга. Чем больше евреи спорили о толковании Библии, тем больше влияния обретали раввины, ставшие, по сути, еврейской технократической элитой. Попытка обойти несовершенные человеческие институты с помощью новой информационной технологии привела к обратному результату из-за потребности в человеческом институте для толкования священной книги.
После долгих споров о том, какие мнения раввинов учитывать, а какие нет, в III веке н. э. была канонизирована новая священная книга – Мишна. Сразу после этого начались споры о толковании Мишны, а когда раввины договорились по поводу толкования Мишны, это толкование канонизировали в V–VI веках как третью священную книгу – Талмуд. И евреи тут же начали спорить о толковании Талмуда.
Мечта обойти ненадежные человеческие институты с помощью технологии священной книги так и не сбылась. С каждой итерацией власть института раввинов только возрастала. «Доверяй безошибочной книге» превратилось в «доверяй людям, которые толкуют книгу». Талмуд повлиял на иудаизм гораздо больше, чем Библия, а споры раввинов о толковании Талмуда стали даже важнее самого Талмуда. Это неизбежно, поскольку мир постоянно меняется. Возникают новые вопросы, на которые нет ответов в Мишне и Талмуде. Например, можно ли в Шаббат нажимать кнопки лифта?
В иудаизме произошел глубокий сдвиг: из религии жрецов и храмов он превратился в «информационную религию», одержимую текстами и интерпретациями. Когда римляне разрушили Иерусалимский храм и все храмовые ритуалы прекратились, раввины еще столетиями усердно писали тексты о правилах проведения этих ритуалов, а затем спорили о толковании этих текстов. Тексты и споры о них были для них гораздо важнее самих ритуалов.
В конце концов раввины пришли к убеждению, что вся вселенная представляет собой информационную сферу – мир, состоящий из слов и движимый алфавитным кодом еврейских букв. Для раввинов слова в текстах зачастую были важнее любых фактов в мире. Точнее, слова священных текстов становились важнейшими фактами о мире, влияя на жизнь отдельных людей и целых сообществ.
Разделенная Библия
На самом деле процесс канонизации Библии породил не одну цепочку текстов, а несколько конкурирующих цепочек. Были люди, которые верили в Бога, но не в раввинов. Большинство из этих сектантов признавали первое звено цепочки (которое называли Ветхим Заветом), но не признавали институт раввинов и впоследствии отвергли Мишну и Талмуд. Этими сектантами были христиане.
В I веке н. э. христианство еще не было единой религией, а представляло собой множество течений, считавших высшим авторитетом в отношении слова Божия не институт раввинов, а Иисуса Христа. В I–III веках христиане предлагали все больше толкований священных текстов и распространяли новые послания Господа, и становилось все труднее понять, какие из них принимать в расчет. В IV веке церковные соборы в Гиппоне и Карфагене канонизировали список историй, посланий и пророчеств, рекомендованный к чтению епископом Афанасием Александрийским. Эта книга стала известна как Новый Завет.
Создатели Нового Завета были не авторами вошедших в него текстов, а лишь кураторами. Наряду со списком Афанасия существовали и другие списки, и некоторые христианские церкви придерживаются своих канонов. Неизвестно, почему те или иные тексты одобрялись или отвергались разными церквями, но последствия оказались весьма серьезными: ведь тексты стали влиять на сами церкви. В качестве примера автор рассматривает подчиненную роль женщин в обществе и церкви. Включив в канон женоненавистническое Первое послание к Тимофею и отвергнув Деяния Павла и Фёклы, где женщине отводится активная роль, епископы и богословы предопределили отношение христиан к женщинам на много веков вперед.
Если в иудаизме канонизация священных книг сопровождалась созданием института раввинов, то в христианстве канонизация Нового Завета сопровождалась созданием единой христианской церкви. Попытка наделить всей полнотой власти предположительно безошибочную надчеловеческую технологию привела к расцвету нового и чрезвычайно могущественного человеческого института – церкви.
Информационный пузырь
Проблемы толкования текстов смещали баланс сил между священной книгой и церковью в пользу последней. Одни и те же слова Иисуса или Павла можно было трактовать по-разному, и именно институт церкви решал, как правильно. Саму же церковь то и дело сотрясала борьба за право толковать Писание, что вело к институциональным расколам, в частности между католической и православной церковью.
Слова о любви к врагам и непротивлении злу католическая церковь трактовала не в пацифистском духе, а тем способом, который позволил ей завладеть обширными землями, начать Крестовые походы и учредить инквизицию. Свое богатство и влияние церковь использовала для распространения угодных ей текстов, запрещая неугодные.
Конечно, церковь не могла помешать отдельным вольнодумцам высказывать еретические идеи. Но поскольку она контролировала ключевые узлы средневековой информационной сети (мастерские переписчиков, архивы и библиотеки), она не позволяла еретикам копировать и распространять сотни экземпляров их книг. По сути, церковь стремилась удержать общество в информационном пузыре.
Католические эксперты в области информации целыми днями читали толкования Фомы Аквинского на толкования Блаженного Августина на послания святого Павла и писали собственные толкования. Все эти тексты не отражали реальность; они создавали новую информационную сферу, еще более обширную и мощную, чем созданная еврейскими раввинами. Повседневная жизнь, мысли и чувства средневековых европейцев диктовались текстами о текстах о текстах.
Книгопечатание, наука и ведьмы
Попытка обойти склонность человека к ошибкам, наделив властью безошибочный текст, так и не увенчалась успехом. Слово Божие никогда не толковало само себя, а потому не только иудеи и католики, но и протестанты в итоге создали свои церковные институты и наделили их полномочиями толковать тексты и преследовать еретиков.
Если священные тексты ведут к появлению несовершенных церквей, то как решить проблему человеческих ошибок? Согласно наивному взгляду, для этого нужно лишь убрать все препоны для свободного распространения информации. Автор не соглашается с этим тезисом и напоминает о событиях эпохи печатной революции в Европе. В середине XV века появление печатного станка сделало возможным массовое производство любых текстов, даже неугодных церкви. С 1454 по 1500 год в Европе было напечатано более 12 млн томов, тогда как за предыдущую тысячу лет писцы изготовили всего около 11 млн копий.
Считается, что печатная революция в Европе ослабила контроль католической церкви над европейской информационной сетью и привела к научной революции. В этом есть доля правды, соглашается автор, ведь без технологии печати Галилею и Копернику было бы сложнее распространять свои идеи. Но книгопечатание способствовало распространению не только научных фактов, но и религиозных фантазий, лжи и теорий заговора. Одним из самых печально известных последствий этого стала охота на ведьм.
В 1486–1487 годах доминиканский монах и инквизитор Генрих Крамер написал и опубликовал «Молот ведьм». В этой книге Крамер подробно описал мировой заговор и способы разоблачения и обезвреживания ведьм. Он рекомендовал применять пытки для получения признаний и считал казнь единственным возможным наказанием для виновных. Опираясь на древние мизогинные тексты, он сексуализировал колдовство, утверждая, что оно проистекает из женской похоти. Церковники не одобряли «Молот ведьм», однако в Европе раннего Нового времени он стал бестселлером.
Печатный станок не стал причиной охоты на ведьм, но сыграл ключевую роль в быстром распространении веры в сатанинский заговор. Вслед за «Молотом ведьм» появилась лавина печатных буклетов на ту же тему, и все это подпитывало массовую истерию, которая в XVI–XVII веках привела к пыткам и казням от 40 до 50 тысяч невинных людей. Идеи Крамера влияют на мир и по сей день, вдохновляя современные теории заговора, такие как QAnon.
Испанская инквизиция спешит на помощь
Поскольку охотники на ведьм опирались на идею мирового заговора, обвиняемых в колдовстве пытали, чтобы узнать имена сообщников, а затем пытали и этих предполагаемых сообщников. Тех, кто выступал против таких абсурдных методов, тоже обвиняли в колдовстве.
История охоты на ведьм иллюстрирует темную сторону создания информационной сферы. Охота на ведьм подпитывалась информацией, которая не отражала реальность, а создавала новые сущности. В реальности никто не знался с Сатаной и не летал на метле, но ведьмы были интерсубъективной сущностью: они появились в результате обмена информацией о ведьмах.
Таким обменом информацией занималась целая бюрократическая система. Богословы, юристы, инквизиторы, владельцы типографий и охотники на ведьм зарабатывали на жизнь сбором и распространением сведений о ведьмах, каталогизацией ведьм, изучением их поведения и советами по борьбе с ними.
Новая интерсубъективная сущность была настолько убедительной, что даже некоторые обвиняемые верили в свое участие в заговоре: ведь люди, как уже говорилось, способны усваивать ложные воспоминания. Охота на ведьм была вызвана распространением токсичной информации. Это яркий пример проблемы, созданной информацией и усугублявшейся с увеличением ее объема.
К такому выводу пришли не только современные ученые, но и проницательные наблюдатели того времени. В начале XVII века испанский инквизитор Алонсо де Саласар-и-Фриас тщательно изучил ведовские процессы и не нашел никаких доказательств реального колдовства. Он заключил, что «не было ни ведьм, ни околдованных ими, пока о них не начали говорить и писать». Саласар-и-Фриас хорошо уловил суть интерсубъективных сущностей и верно определил всю индустрию охоты на ведьм как интерсубъективную информационную сферу.
История охоты на ведьм показывает, что устранение барьеров на пути информационных потоков не всегда ведет к торжеству истины. Оно с тем же успехом может привести к распространению лжи. Абсолютно свободный рынок идей может стимулировать распространение ненависти и сенсаций в ущерб истине. Причина понятна: печатники и книготорговцы зарабатывали гораздо больше на «Молоте ведьм», чем на трактате Коперника. Научную революцию запустил не печатный станок и не свободный рынок информации, а новый подход к проблеме человеческих ошибок.
Открытие невежества
Свободный рынок информации не всегда побуждает людей находить и исправлять свои ошибки. Для торжества истины необходимы курирующие институты, способные склонить чашу весов в пользу фактов. Но институты могут использовать свое влияние для подавления критики. Возможно ли создать эффективные курирующие институты, которые использовали бы свой авторитет для поиска истины, а не для укрепления своей власти?
Такие институты как раз и появились в Европе раннего Нового времени, и именно они, по мнению автора, заложили основу для научной революции. Это были даже не университеты, а научные ассоциации, журналы и издательства, которые объединили ученых и создали обширную информационную сеть. Чтобы научная революция набирала обороты, ученые должны были доверять информации, публикуемой коллегами. Это доверие как раз и поддерживали новые институты, привлекая внимание к открытиям Коперника, а не к выдумкам Крамера. Редакторов научных журналов не интересовало, сколько люди будут готовы заплатить за чтение статьи; их интересовали доказательства того, что в статье написана правда.
Поначалу новые институты казались хлипкими, им не хватало влияния для социальных преобразований. Но научные институты обрели это влияние за счет весьма оригинальной претензии на доверие. Если церковь призывала людей доверять ей на том основании, что она владеет абсолютной истиной, то научные институты завоевали авторитет благодаря сильным механизмам самокоррекции, позволявшим находить и исправлять ошибки. Именно эти механизмы самокоррекции, а не технология печати, стали двигателем научной революции.
Иными словами, научная революция началась с открытия невежества. Наука – это коллективная работа, опирающаяся на сотрудничество институтов, а не на отдельных ученых или какую-нибудь одну безошибочную книгу. Конечно, институты тоже подвержены ошибкам. Однако научные институты отличаются от религиозных тем, что поощряют не конформизм, а скептицизм и инновации. А от теорий заговора научные институты отличаются тем, что поощряют скептицизм по отношению к себе. Среди научных институтов существует широкий консенсус по многим теориям, но лишь потому, что эти теории выдержали многочисленные попытки их опровергнуть, предпринимавшиеся не только сторонними субъектами, но и представителями самих институтов.
Механизмы самокоррекции
Как информационная технология механизм самокоррекции полностью противоположен священной книге, поскольку предполагает возможность ошибок. Под самокоррекцией автор подразумевает механизмы, которые некая сущность использует для исправления самой себя. Когда научный журнал публикует статью, где исправляется ошибка, обнаруженная в предыдущей статье, это пример действия механизма самокоррекции.
Механизмы самокоррекции повсеместно распространены в природе. Например, благодаря им дети учатся ходить: делая неловкие движения и падая, они постепенно корректируют свои действия. Постоянной самокоррекции требуют и многие процессы в организме: показатели кровяного давления, температуры тела или уровня сахара не должны выходить за пределы допустимых значений, иначе человек может умереть.
Институты тоже погибают без механизмов самокоррекции. Все институты, которым удалось просуществовать хотя бы несколько лет, обладают механизмами самокоррекции, но эти механизмы значительно разнятся по эффективности и прозрачности. Например, католическая церковь – институт с относительно слабыми механизмами самокоррекции. Претендуя на непогрешимость, она не может признавать институциональные ошибки. Иногда католическая церковь признает ошибки отдельных своих представителей, но не ошибки в священных текстах. Она всегда использовала механизм самокоррекции для контроля за священниками в их личных делах, но никогда не вырабатывала механизм для внесения поправок в Библию.
Автор считает похвальным, что католическая церковь приносила извинения за ряд своих действий в прошлом (это редкость для религиозных институтов). Однако в каждом случае папы аккуратно перекладывали ответственность со Священного Писания и церкви как института на отдельных церковников. Так, в марте 2000 года папа Иоанн Павел II попросил прощения за исторические преступления против евреев, еретиков, женщин и коренных народов. Он извинился «за применение насилия, какое некоторые вершили во имя истины».
Однако вовсе не горстка заблудших священников начинала Крестовые походы, принимала дискриминационные законы и уничтожала локальные религии по всему миру. В трудах многих отцов церкви и в указах многих пап и церковных соборов немало примеров осуждения «языческих» и «еретических» религий, призывов к дискриминации их приверженцев и насильственному обращению людей в христианство. Конечно, хотя церковь и не признает это официально, со временем она изменила свои институциональные структуры, основные догмы и толкование Священного Писания. Но что характерно для самокоррекции в институтах вроде католической церкви, даже когда она происходит, ее скорее отрицают, чем приветствуют. Первое правило изменения церковных догм – не допускать изменения церковных догм.
Чтобы сохранять свой религиозный авторитет, католическая церковь вынуждена отрицать само существование институциональной системы самокоррекции, поскольку церковь попала в ловушку непогрешимости. Раз она выстроила свое религиозное влияние на претензии на безошибочность, любое публичное признание институциональной ошибки может полностью подорвать ее авторитет.
Библия и «руководство по психическим расстройствам»
В отличие от католической церкви, научные институты строились на основе сильных механизмов самокоррекции. Научные институты признают, что даже если когда-то большинство ученых считали нечто истинным, это все равно может оказаться ошибочным или неточным. В XIX веке теория Ньютона считалась всеобъемлющим описанием вселенной, но в XX веке теория относительности и квантовая механика выявили в ней неточности. Самые знаменательные моменты в истории науки – именно те моменты, когда общепринятые знания опровергаются и рождаются новые теории.
Принципиально важно, что научные институты готовы признавать институциональную ответственность за ошибки и преступления. Например, научные журналы регулярно публикуют статьи с разоблачениями лженаучных теорий, которые когда-то разрабатывались в ведущих научных учреждениях и использовались для оправдания дискриминации и геноцида. Эти ошибки и преступления рассматриваются как институциональный провал целых научных дисциплин.
Готовность признавать институциональные ошибки способствует относительно быстрому развитию науки. Под давлением новых данных доминирующие теории часто отбрасываются уже через пару десятилетий и заменяются новыми.
Множество примеров эффективных механизмов самокоррекции можно найти в области психиатрии. На полках большинства психиатров имеется «Диагностическое и статистическое руководство по психическим расстройствам» (DSM). Его иногда называют Библией психиатров. Но между Библией и DSM есть принципиальное различие. Это руководство, впервые опубликованное в 1952 году, каждые пару десятилетий пересматривается, и в 2013 году вышло уже издание пятого пересмотра. Определения многих расстройств со временем меняются, в список попадают новые заболевания, а некоторые из него исключаются. Конечно, психиатры по-прежнему могут совершать институциональные ошибки, но куда важнее, что они могут признавать их и исправлять.
Публикуйся или умри
Особенно эффективными механизмы самокоррекции в науке делает тот факт, что научные институты не просто готовы признавать институциональные ошибки и заблуждения, а стремятся их разоблачать. Это выражается в системе мотивации, выстроенной в научных институтах. Трудоустройство и карьерный рост там основаны на принципе «публикуйся или умри», а чтобы опубликоваться в престижном журнале, нужно найти ошибку или неточность в существующих теориях или открыть что-то новое.
Конечно, как в религии есть место для самокоррекции, так и в науке есть место для конформизма. Наука – институциональная отрасль, и ученые полагаются на институты практически во всех своих знаниях. Например, чтобы узнать больше об охоте на ведьм в Европе, автор этой книги не перелопатил лично все архивы и не прочел все первоисточники, а опирался на работы других ученых, в частности на книгу Рональда Хаттона, профессора истории Бристольского университета. Автор доверяет прочитанному, поскольку знает, как работают механизмы самокоррекции университетов и научных издательств. Во-первых, эти механизмы встроены в ядро институтов, а не являются довеском к ним. Во-вторых, научные институты публично приветствуют самокоррекцию, а не отрицают ее. Конечно, какая-то информация из книги Хаттона может оказаться неточной, или автор мог неверно интерпретировать прочитанное. Но он надеется, что специалисты обнаружат любые ошибки и расскажут о них.
Критики научных институтов из числа популистов могут возразить, что на самом деле эти институты используют свое влияние для подавления инакомыслия и устраивают свою охоту на ведьм против несогласных. Конечно, если какой-то ученый выступит против сложившегося в его дисциплине консенсуса, это может иметь для него негативные последствия: отклонение статей, отказы в исследовательских грантах, личные нападки, а иногда и увольнение. Однако все это далеко от физических пыток и сожжения на костре.
Автор приводит историю химика Дана Шехтмана, открывшего в 1982 году квазикристаллы. Его коллегам открытие показалось настолько странным, что они даже называли Шехтмана «квазиученым». Но впоследствии выводы Шехтмана подтвердились, и в 2011 году он получил Нобелевскую премию за свое открытие, которое «заставило ученых пересмотреть представление о самой природе материи». Популисты правы, полагая, что ученые подвержены тем же предубеждениям, что и все люди. Однако институциональные механизмы самокоррекции позволяют эти предубеждения преодолеть.
Впрочем, бывали времена, когда механизмы самокоррекции в науке не работали, а несогласие с официальной наукой действительно вело к пыткам, тюрьме и смерти. Такова, например, история Николая Вавилова, критиковавшего лженаучные теории Трофима Лысенко. Лишившись механизмов самокоррекции, Всесоюзная академия сельскохозяйственных наук, по сути, перестала быть научным институтом.
Пределы самокоррекции
Можно ли считать механизмы самокоррекции волшебным средством, способным защитить человеческие информационные сети от ошибок и предвзятости? К сожалению, говорит автор, все гораздо сложнее. Сильные механизмы самокоррекции обычно порождают сомнения, разногласия, конфликты и расколы, а также подрывают мифы, на которых держится социальный порядок.
Конечно, порядок сам по себе не всегда хорош. Например, порядок, сложившийся в Европе раннего Нового времени, поощрял не только охоту на ведьм, но и эксплуатацию миллионов крестьян, притеснение женщин, дискриминацию евреев и мусульман. Но даже если социальный порядок крайне репрессивен, его подрыв не обязательно улучшит ситуацию. Это может привести к хаосу и еще большему угнетению. Принесение порядка в жертву истине сопряжено с издержками, как и принесение истины в жертву порядку.
Научные институты могут позволить себе сильные механизмы самокоррекции, поскольку сложную работу по поддержанию порядка за них выполняют другие институты. Если в лабораторию проникнут воры, ученые не будут жаловаться в научный журнал, а вызовут полицию. Но возможны ли сильные механизмы самокоррекции в других институтах, например в полиции, армии и правительствах, которые сами отвечают за поддержание социального порядка? Демократии верят, что да. Диктатуры же такие механизмы отвергают.
Этот вопрос подробнее освещается в следующей главе. Только разобравшись в информационной политике таких исторических систем, как Древние Афины, Римская империя, США и Советский Союз, утверждает автор, можно перейти к рассмотрению революционных последствий расцвета ИИ, поскольку один из главных вопросов, связанных с ИИ, заключается в том, будет ли он поддерживать демократические механизмы самокоррекции или же подорвет их.