…если к тому времени мы сами сможем передать вместе со всей информацией нашего мозга и наше самосознание, то вполне резонно считать, что ЭВМ, старея, способна будет проделать то же самое и с не меньшим успехом с другой машиной. И таким довольно простым способом ваше собственное самосознание, а значит, и до некоторой степени вы сами тоже перекочуете в новую, еще более совершенную оболочку. Кстати, это поможет сделать мое „я“, мое самосознание, практически бессмертным».
Попробуем выяснить, каковы истоки таких представлений. В 1950–1960 годы вера в «компьютерный разум» была чрезвычайно распространена. Серьезный практик и ученый Анатолий Иванович Китов (см. посвященный ему очерк в этом сборнике) в 1956 году писал в книге «Электронные цифровые машины» [5.2]: «После того как составлен машинный словарь и разработана система четких правил для работы машины, составление самой программы машинного перевода, несмотря на ее чрезвычайную громоздкость (она содержит несколько тысяч команд), не представляет принципиальных трудностей».
Да уж — несколько тысяч команд… Через два десятилетия Глушков в цитировавшемся интервью уже оценивал переводческие возможности ЭВМ куда прозаичнее: «Эксперименты по машинному переводу проводились в нашей стране еще в пятидесятые годы. За это время машины научились прилично переводить технические и научные тексты, газеты. С художественной же литературой значительно сложнее. Компьютер не всегда правильно понимает художественные образы, метафоры… А когда он начинает переводить их дословно, то получается, как вы сами понимаете, не литература, а что-то несуразное». Но это, как видим, не помешало ему искренне верить в возможность слияния машинного и человеческого разумов.
Эта вера имеет глубокие корни, уходящие в глубь веков. Еще в XIII веке Раймонд Луллий пытался основать абсолютную и универсальную философию, основанную на представлении о познаваемости вселенной — он был одним из первых рационалистов, пытавшихся применить формальную логику к познанию мира (которое в его время в значительной степени отождествлялось с теологическими изысканиями). Луллий был уверен в том, что в каждой области знаний можно выделить несколько основных понятий, из которых могут быть дедуктивно образованы все остальные, подобно тому, как все геометрические теоремы выводятся из ограниченного числа аксиом. Он даже построил машину, которая, по его мнению, давала возможность исчерпать истину обо всем во Вселенной.
У Луллия были именитые последователи: к числу его наиболее известных почитателей относится Джордано Бруно, а также великий Лейбниц, пытавшийся создать некий «универсальный язык». Основатель математической логики английский математик Джордж Буль тоже отдал дань представлению о том, что мыслительный процесс можно описать математически: одна из его фундаментальных работ называлась «Исследование законов мышления» (1854).
Основы направления, получившего название «искусственный интеллект», уже в начале компьютерной эры заложил великий математик Алан Тьюринг. В 1950 году журналом «Mind» была опубликована его работа под названием «Computing mashinery and intelligence» («Вычислительные машины и интеллект»), которая после неоднократно переиздавалась в разных странах, в том числе и в СССР (1960), под названием «Может ли машина мыслить?» [4.2]. Из этой работы, в частности, следует любопытная историческая деталь: еще гениальная Ада Лавлейс в первой половине XIX века предвидела постановку проблемы о машинном разуме и отрицала его возможность: «Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать. Она может следовать анализу, но она не может предугадать какие-либо аналитические зависимости или истины. Функции машины заключаются в том, чтобы помочь нам получить то, с чем мы уже знакомы» (выделено мной. — Ю. Р.)[55].
В сущности, в этих словах уже содержатся все основные аргументы против компьютерного разума. Переводя слова леди Лавлейс на современный язык, можно сказать, что компьютер, в отличие от человеческого разума (и человека вообще) есть система детерминированная. В нем результат всегда однозначно связан с начальным состоянием.
В отличие от подобных систем, которые в кибернетике и были названы «простыми», «сложная» («большая») система ведет себя каждый раз по-другому, в зависимости от мельчайших деталей поведения воздействующих факторов, которые чаще всего и учесть-то невозможно. Типичные примеры больших систем — человеческое общество, природные системы (не только сложнейшие биогеоценозы, но и обычная атмосфера тоже), и, разумеется, человеческий мозг. Иногда их поведение с некоторой вероятностью можно предсказать на небольшой срок, но чем дальше в будущее, тем больше такой прогноз теряет достоверность, пока не размывается полностью в тумане неопределенности. Для больших систем характерны внезапные скачки («точки бифуркации»), вызванные незначимыми на первый взгляд изменениями влияющих факторов или возникновением новых, ранее не существовавших воздействий, что затрудняет построение долгосрочных математических моделей таких систем вплоть до полной невозможности.
Тьюринг в своих возражениях указывает, что предположение, будто «коль скоро какой-то факт стал достоянием разума, то тотчас же достоянием разума становятся все следствия из этого факта» в реальной действительности есть ложное предположение. Разумеется, дедуктивный вывод, хоть и однозначно следующий из посылок, бывает получить очень и очень непросто, и в этом деле компьютеры просто незаменимы. Но это никак не решает проблему в принципе — дедуктивные рассуждения остаются все же весьма и весьма частным случаем интеллектуальной деятельности. В сущности, спор идет о том, как определить понятие «новизны» в формулировках Лавлейс, и эта «новизна» приводит нас к понятию «новой информации» в формулировках современных.
Не углубляясь дальше в этот сложный и многоплановый спор, укажем только, что проблема «искусственного разума» была практически закрыта философом Джоном Серлем в 1980 году в работе «Разум, мозг и программы» [4.4]. Он ввел термины Strong AI («сильный ИИ[56]») и Weak AI («слабый ИИ»), где «сильный ИИ» есть классическая задача моделирования человеческого мышления во всей его сложности. Джон Серль свел воедино все возражения против «сильного ИИ» (построив так называемую «китайскую комнату» — модель эффективно работающего переводчика с китайского, который ничего не знает о китайском языке) и окончательно сформулировал основную разницу между «искусственным» и «естественным» интеллектами — она заключается в проблеме понимания смысла прочитанного или увиденного. С тех пор работы в большинстве исследовательских центров в этом направлении были практически свернуты. Хотя и в наше время нередко возникают рецидивы: в первой половине 2000-х о попытке смоделировать человеческий мозг объявил Джефф Хокинс, который был уже известен, как основатель компании Palm. Он выпустил книгу «Об интеллекте» («On intelligence» [4.5]), которая привлекла к нему внимание специалистов, а в 2005 году основал для исследования своих представлений компанию Numenta. Однако о его успехах с тех пор так ничего и не слышно.
Вот в русле этого направления и следовал В. М. Глушков. Напомним, что он действовал еще до появления работ Серля, о которых к тому же едва ли стало немедленно известно в Москве. Глушковский проект машины МИР содержал попытку научить машину некоторым функциям человеческого мозга — в данном случае брать интегралы и преобразовывать алгебраические выражения, причем в буквенных обозначениях. Автор этих строк, много работавший на МИР-1 и МИР-2, ничего не знает о востребованности этой функции на практике, хотя, как научное достижение, оно, безусловно, заслуживает всяческого внимания. Однако МИР-2 сегодня воспринимается прежде всего, как великолепный персональный компьютер. «Интеллектуальные» возможности «МИРов» сейчас вспоминаются лишь как пример высокого уровня советской технической мысли.
Вместе с тем не нужно недооценивать направление «искусственного интеллекта». Достижения мечтавших о «компьютерном разуме» вобрало в себя направление «слабого ИИ», отказавшееся от попыток расшифровать механизмы мышления и занявшееся построением практических инструментов, которые имитировали бы отдельные стороны человеческого интеллекта. В некоторых областях это направление показывает просто блестящие результаты: классическим примером стали программы распознавания символов и шахматные компьютеры, уже давно обыгравшие чемпиона мира.
Член-корреспондент РАН Владимир Львович Арлазаров, крупнейший российский специалист по искусственному интеллекту (в 1960–1970 годы — один из авторов шахматной программы «Каисса», выигравшей чемпионат мира среди шахматных программ), в беседах с автором этих строк подчеркивал, что в принципе любая задача из области ИИ разрешима, если она будет востребована. О принципиальной возможности смоделировать функции мозга Владимир Львович замечал: «…начальная информация и законы логики — это все, чем владеет мозг? Или есть еще какие-то вещи, и к логике функционирование мозга не сводится? Это сложный вопрос. Уже потому, что есть некоторые химизмы, которые влияют на функционирование мозга, логика может тут и рядом не лежать. Поэтому, хотя меня советская власть воспитала атеистом, но уверенности в том, что ничего, кроме логического вывода и начальной информации, не существует, у меня нет никакой. Но и уверенности в том, что некоторые функции мозга нельзя смоделировать, у меня нет — может быть, мы просто не знаем, как» [4.6].
Приверженцами идеи «компьютерного разума» в середине XX века были многие ученые, можно даже утверждать, что это было неким «общим местом». Достаточно привести высказывание академика Андрея Николаевича Колмогорова, заслуги которого в науке неоспоримы: «Я принадлежу к тем кибернетикам, которые не видят никаких принципиальных ограничений в кибернетическом подходе к проблеме жизни и полагают, что можно анализировать жизнь во всей ее полноте, в том числе и человеческое сознание со всей его сложностью, методами кибернетики» [4.8]. Разумеется, эти ученые тогда многое преувеличивали, но с высоты сегодняшнего дня не следует над ними смеяться и иронизировать: на их достижениях выросла современная компьютерная отрасль, и последнее слово в ней еще далеко не сказано.