Одни сценарии кажутся явно опасными, другие могут оказаться, скорее, удивительными. Например, много людей, размышляющих о суперинтеллекте, считают, что одиночный сверхразум с высокой вероятностью окажется куда более опасным по сравнению с несколькими независимыми сверхразумами. Короче говоря, сверхразуму-синглету нет необходимости учиться взаимодействию с прочими людьми.
Какие книги, по вашему мнению, надо читать, чтобы лучше понимать наступающее светлое (или темное) будущее?
Поскольку мы точно не знаем, что может произойти, я полагаю, размышлению о будущем очень поможет чтение разнообразной твердой научной фантастики — и обдумывание выводов из прочитанного. Превосходных писателей подобного жанра много: Чарльз Стросс, Дэвид Брин, Карл Шредер, Ханну Райаниеми…
«Конец радуг» — роман Вернора Винджа, действие которого происходит в ближайшем будущем. Написан в 2006 году. В 2007 году стал лауреатом премий «Хьюго» и «Локус».
Синглетон (singleton) — в математике, множество с единственным элементом. В романе Вернора Винджа «Пламя над бездной» так назывались отдельные элементы разумных стай (в русском переводе «синглеты»).
В каком произведении из области научной фантастики, на ваш взгляд, мы сегодня живем?
Не знаю. Но очевидные тренды указывают на сюжеты, подобные «Концу радуг».
Иннокентий Андреев
ГОРДОСТЬ, ПРЕДУБЕЖДЕНИЕИ РОБОТЫ
© Tzratzk. илл., 2016
/аналитика
/сценарии
/роботы
/искусственный интеллект
Каждая новость об очередной победе робототехники и искусственного интеллекта разносится по новостным агентствам и социальным сетям с огромным энтузиазмом. Но так ли он обоснован?
Последним громким успехом искусственного интеллекта стала победа программы Alpha Go над сильнейшим игроком в го Ли Седолем. Не менее известны достижения компании Boston Dynamics, продемонстрировавшей вполне работоспособных четвероногих роботов BigDog, покоривших Интернет своими передвижениями по пересеченной поверхности. Австралийский изготовитель боевых роботов Marathon Robotics пошел по пути конверсии и выпустил автономных колесных роботов DRU (Domino’s Robotic Unit) по доставке пиццы, а в городе Феникс, штат Аризона, запустили первый полностью роботизированный Макдональдс. Прежде чем каждый из нас начнет представлять себя владельцем очаровательного электронного друга, подумаем над социальными последствиями таких инноваций.
Суть роботизации
Технологическое развитие в любой его форме уже много лет воспринимается как некое безусловное общее благо, выгоду от которого получает чуть ли не каждый житель Земли. Благодаря такому технооптимизму все относятся к роботам и искусственному интеллекту как к своего рода новым айфонам — «круто, модно и для каждого». А следовало бы относиться как к атомной бомбе. Это технологическое направление невероятной силы, гораздо более важно, чем любые гаджеты, но совершенно «не для всех». И именно с развитием робототехники мы подошли к той границе, когда системное воздействие технологического развития начинает работать не в пользу большинства.
Технологии роботизации не насыщают потребительский рынок товарами и не создают новые «общие блага». Развитие робототехники позволяет изменить существующие экономические отношения в обществе — и ставят под вопрос проистекающую из них политическую структуру. Создание продвинутых роботов и развитие искусственного интеллекта означает появление «функционально почти людей».
Роботы позволяют увеличить эффективность как производственного сектора, так и сектора услуг (в том числе и высококвалифицированной его составляющей) за счет сокращения расходов на оплату труда. То есть за счет сокращения рабочих мест и общего давления на уровень зарплат. Роботы, в первую очередь, не будут решать некие новые задачи — они будут решать вполне себе старые функции, выполняемые в настоящее время людьми.
Говоря чеканными марксистскими формулировками — благодаря роботам произойдет очередной цикл «замещения труда капиталом». На языке более мейнстримных экономистов — «технологическое замещение факторов производства». Технологическое замещение активно идет с начала промышленной революции, усиливаясь в определенные момент по причине внедрения очередной технологической волны. Каждое внедрение трудосберегающих технологий чаще всего приносило неплохие прибыли владельцам предприятий, увеличивая и общую эффективность экономики. А вот со «сбереженными трудовыми ресурсами» чаще всего поступали просто — выкидывали на улицу, обрекая на голод. Движение луддитов возникло совсем не от хорошей жизни.
Спецификой первых волн технологического замещения было то, что негативные его стороны (безработица и голод) были крайне локализованными на относительно узких социальных группах, а положительные стороны (большая доступность продукции) технологий были общесистемными. Новая волна технологического замещения имеет другой характер: благодаря гибкости и многофункциональности продвинутых роботов эффект от его внедрения может сказаться одновременно практически на всех секторах экономики.
Фриц Лейбер. Серебряные яйцеглавы
— Это вполне понятно, — заверил ее Зейн Горт. — Любовь у роботов родилась точно так же, как их литература, а уж в этом я разбираюсь, хотя до сих пор вынужден выплачивать моему изготовителю сорок процентов моих гонораров — и все равно остаюсь в долгах по самые фотоэлементы. Видите ли, вольным роботам приходится очень несладко. Тебя швыряют в житейское море с тяжеленным камнем долгов на шее — ведь ты стоишь не меньше космического лайнера! — и тебе приходится из корпуса вон лезть, чтобы выплачивать очередные взносы, а ведь нужно.
XX век с его масштабными войнами, миллионными массовыми армиями и общемировыми коммунистическими движениями вынудил все развитые страны создать многочисленные механизмы социального обеспечения и защиты рабочего класса, смягчавшие воздействие как экономических рецессий, так и очередных волн внедрения трудосберегающих инноваций.
Устойчивый экономический рост и развитие с 1950-х годов экономики «белых воротничков» позволили перенаправлять трудовые ресурсы в более престижные и менее подверженные технологическому замещению сектора экономики. Благодаря этому роботизация производственного сектора с 1970-х годов происходила относительно безболезненно — карьерные устремления послевоенных поколений лежали вне промышленности. Дети рабочих предпочитали работу в офисах и аудиториях, а не в заводских цехах. Экономическое развитие долгое время позволяло им реализовать эти амбиции — «прилив поднимает все лодки», как заклинали ведущие экономисты. Благами экономического роста пользовались все.
Современная волна технологического замещения будет происходить в кардинально других социальных условиях.
Во-первых, в 1980-х годах был демонтирован послевоенный социальный баланс и система перераспределения благ (исключением стали разве что страны скандинавского социализма). Доходы населения в развитых странах в реальном выражении стагнируют уже 30 лет. Выпускники вузов 2010-х станут первым поколением в развитых странах, которое будет скромнее своих родителей. У привыкшего к постоянному росту благосостояния западного общества это вызывает изрядное удивление, смешанное с негодованием. При этом доля имущества и доходов, приходящаяся на высшие классы (наиболее богатые 10 % населения), стремится к уровню, предшествовавшему Первой мировой войне, что воскрешает казалось бы забытые социальные конфликты.
Во-вторых, в рамках все той же политики с начала 1980-х большинство отраслей были дерегулированы под лозунгом большей динамичности и открытости. Рынок труда в развитых странах чаще всего приведен к гибкому состоянию, увольнения осуществляются работодателями без каких-либо ограничений. Даже в странах с сохранившейся системой профсоюзов значительно увеличилась доля т. н. «прекариата» — работников на краткосрочных контрактах.
В-третьих, надвигающаяся волна технологического замещения благодаря роботам и искусственному интеллекту распространяется уже не на промышленный сектор (крупные предприятия внедряют робототехнические решения уже давно), а на сектор услуг. Замещается в том числе и высококвалифицированный труд — вплоть до юристов и биржевых маклеров. Вместе с глобализацией и масштабным выносом сервисных и исследовательских подразделений западных компаний в развивающиеся страны это ставит под угрозу рабочие места внуков рабочих 1930-1950-х годов и оказывает давление на уровень зарплат.
Айзек Азимов. Улики (цикл «Я, робот»)
— А разве психология роботов так отличается от человеческой?
— Огромная разница.
— Она позволила себе холодно улыбнуться. — Прежде всего, роботы глубоко порядочны.
В-четвертых, на настоящий момент робототехника и ИИ постепенно делают возможным внедрение многофункциональных гибких роботов. «Гибкая роботизация» способна воздействовать одновременно практически на все сектора экономики в отличие от предыдущих волн технологического замещения.
Демографический миф
В поддержку роботизации обычно используется «демографический аргумент». Согласно популярным ныне страшилкам, «западные страны вымирают», а мигранты из бывших западных колоний и иных стран «глобального юга» чуть ли не завтра захватят в них власть. Действительно рождаемость в развитых странах сильно сократилась, прирост населения в значительной степени был обеспечен миграцией, а политики и экономисты обсуждают, как обустраивать жизнь «серебряных» (политкорректный термин для «седых») поколений.
Но мало кто обращает внимание на то, что демографическое сжатие нисколько не влияет на серьезный уровень безработицы. Это при том, что государства — за не имением других возможностей — активно поддерживают вовлечение населения в «квазибезработицу» — длительное и бесполезное образование (до 10 лет) в основном в рамках квазигуманитарых «liberal arts» (известный в узких кругах сериал «Сообщество» является лучшей иллюстрацией процесса). В определенном смысле и разрастание «третьего сектора» — не менее бесполезных НКО и прочего гуманитарного планктона — пре