Справедливости ради следует отметить, что не все технологические лидеры настроены столь же оптимистично. Миллиардеры Билл Гейтс и Элон Маск выражают беспокойство по поводу неправильного или, возможно, даже злого сверхинтеллекта и последствий бесконтрольного развития ИИ для будущего человечества. Однако оба этих обладателя титула "самый богатый человек в мире" согласны с Хассабисом, Ли, Курцвейлом и многими другими в одном: большинство технологий направлены на благо, и мы можем и должны полагаться на технологии, особенно цифровые, для решения проблем человечества. По словам Хассабиса, "либо нам нужно экспоненциальное улучшение человеческого поведения - меньше эгоизма, меньше краткосрочности, больше сотрудничества, больше щедрости, либо нам нужно экспоненциальное улучшение технологий".
Эти мечтатели не задаются вопросом, всегда ли технологические изменения являются прогрессом. Они считают само собой разумеющимся, что больше технологий — это ответ на наши социальные проблемы. Нам не нужно слишком беспокоиться о миллиардах людей, которые поначалу останутся позади; вскоре они тоже выиграют. Мы должны продолжать идти вперед во имя прогресса. Как сказал соучредитель LinkedIn Рид Хоффман: "Могут ли у нас быть плохие двадцать лет? Безусловно. Но если вы работаете в направлении прогресса, ваше будущее будет лучше, чем ваше настоящее".
Такая вера в благодетельные силы технологии не нова, как мы уже видели в Прологе. Подобно Фрэнсису Бэкону и основополагающей истории об огне, мы склонны считать, что технология позволяет нам переломить ход природы. Вместо того чтобы быть слабой добычей, благодаря огню мы стали самым разрушительным хищником планеты. Многие другие технологии мы рассматриваем через ту же призму - мы побеждаем расстояние с помощью колеса, темноту - с помощью электричества, а болезни - с помощью лекарств.
Вопреки всем этим утверждениям, не стоит полагать, что выбранный путь принесет пользу всем, поскольку бандаж производительности часто бывает слабым и никогда не бывает автоматическим. Сегодня мы наблюдаем не неумолимый прогресс на пути к общему благу, а влиятельное общее видение среди наиболее влиятельных технологических лидеров. Это видение сосредоточено на автоматизации, слежке и массовом сборе данных, что подрывает общее процветание и ослабляет демократию. Неслучайно, оно также усиливает богатство и власть этой узкой элиты за счет большинства обычных людей.
Эта динамика уже породила новую олигархию видения - группу технологических лидеров с похожим прошлым, похожим мировоззрением, похожими страстями и, к сожалению, похожими слепыми пятнами. Это олигархия, потому что это небольшая группа с общим менталитетом, монополизирующая социальную власть и игнорирующая ее разрушительное воздействие на безголосых и бесправных. Эта группа имеет влияние не благодаря танкам и ракетам, а потому что она имеет доступ к коридорам власти и может влиять на общественное мнение.
Олигархия видения так убедительна, потому что она добилась блестящего коммерческого успеха. Она также подкрепляется убедительным рассказом о том изобилии и контроле над природой, которые создадут новые технологии, особенно экспоненциально растущие возможности искусственного интеллекта. Олигархия обладает харизмой, в своей ботанической манере. Самое главное, что эти современные олигархи завораживают влиятельных хранителей мнения: журналистов, других лидеров бизнеса, политиков, академиков и всевозможных интеллектуалов. Олигархи-визионеры всегда за столом и всегда у микрофона, когда высказываются важные аргументы.
Очень важно обуздать эту современную олигархию, и не только потому, что мы находимся на краю пропасти. Сейчас самое время действовать, потому что эти лидеры правы в одном: в нашем распоряжении есть удивительные инструменты, и цифровые технологии могут усилить возможности человечества. Но только если мы будем использовать эти инструменты в интересах людей. А этого не произойдет, пока мы не бросим вызов мировоззрению, которое преобладает среди наших нынешних глобальных технологических боссов. Это мировоззрение основано на особом - и неточном - прочтении истории и того, что она подразумевает в отношении того, как инновации влияют на человечество. Давайте начнем с переоценки этой истории.
План на оставшуюся часть книги
В остальной части этой книги мы развиваем идеи, представленные в этой главе, и по-новому интерпретируем экономические и социальные события последней тысячи лет как результат борьбы за направление развития технологий и тип прогресса - кто победил, кто проиграл и почему. Поскольку в центре нашего внимания находятся технологии, большая часть этого обсуждения сосредоточена на тех частях мира, где происходили наиболее важные и значимые технологические изменения. Это означает, что сначала Западная Европа и Китай - сельское хозяйство, затем Британия и США - промышленная революция, а затем США и Китай - цифровые технологии. На протяжении всей книги мы также подчеркиваем, что в разных странах порой делался разный выбор, а также последствия технологий в ведущих экономиках для остального мира, поскольку они распространялись, иногда добровольно, иногда принудительно, по всему земному шару.
Глава 2 ("Видение канала") дает исторический пример того, как успешные идеи могут сбить нас с пути. Успех французских инженеров в строительстве Суэцкого канала резко контрастирует с их впечатляющим провалом, когда те же идеи были перенесены в Панаму. Фердинанд де Лессепс убедил тысячи инвесторов и инженеров в неосуществимости плана строительства канала на уровне моря в Панаме, что привело к гибели более двадцати тысяч человек и финансовому краху для многих других. Это поучительная история для любой истории технологии: великая катастрофа часто имеет корни в мощных видениях, которые, в свою очередь, основаны на прошлом успехе.
Глава 3 ("Сила убеждения") подчеркивает центральную роль убеждения в том, как мы принимаем ключевые технологические и социальные решения. Мы объясняем, как сила убеждения коренится в политических институтах и возможности определять повестку дня, и подчеркиваем, как противодействующие силы и более широкий спектр мнений могут потенциально обуздать самоуверенность и эгоистичное видение.
Глава 4 ("Cultivating Misery") применяет основные идеи нашей концепции к эволюции сельскохозяйственных технологий, от начала оседлого земледелия в эпоху неолита до крупных изменений в организации земли и технике производства в средневековую и раннюю современную эпохи. В этих судьбоносных эпизодах мы не находим свидетельств автоматической "телеги" производительности. Эти крупные сельскохозяйственные преобразования, как правило, обогащали и расширяли возможности малых элит, в то время как сельскохозяйственные рабочие получали мало выгод: крестьяне не обладали политической и социальной властью, а технологический путь следовал за представлениями узкой элиты.
Глава 5 ("Революция среднего рода") по-новому осмысливает промышленную революцию, один из самых важных экономических переходов в мировой истории. Хотя о Промышленной революции написано много, часто недооценивается то, как выглядело зарождающееся видение вновь окрепших средних классов, предпринимателей и бизнесменов. Их взгляды и устремления коренились в институциональных изменениях, которые начали расширять возможности средних слоев английского народа, начиная с XVI и XVII веков. Возможно, промышленная революция была вызвана амбициями новых людей, пытавшихся улучшить свое благосостояние и социальное положение, но их видение было далеко не инклюзивным. Мы обсудим, как произошли изменения в политических и экономических механизмах, и почему они были так важны для создания новой концепции того, как и кем можно управлять природой.
Глава 6 ("Жертвы прогресса") обращается к последствиям этого нового видения. В ней объясняется, как первый этап промышленной революции привел к обнищанию и лишению прав и возможностей большинства людей, и почему это стало результатом сильного уклона в сторону автоматизации технологий и отсутствия права голоса рабочих в принятии решений по технологиям и установлению заработной платы. Индустриализация негативно повлияла не только на экономические средства к существованию, но и на здоровье и самостоятельность большей части населения. Эта ужасная картина начала меняться во второй половине девятнадцатого века, когда обычные люди организовывались и проводили экономические и политические реформы. Социальные изменения изменили направление развития технологий и подтолкнули рост заработной платы. Это была лишь маленькая победа всеобщего процветания, и западным странам придется пройти гораздо более длинный, спорный технологический и институциональный путь, чтобы достичь всеобщего процветания.
Глава 7 ("Спорный путь") рассматривает, как ожесточенная борьба за направление развития технологий, установление заработной платы и в целом за политику заложила основы самого впечатляющего периода экономического роста на Западе. В течение трех десятилетий после Второй мировой войны Соединенные Штаты и другие индустриальные страны переживали быстрый экономический рост, который широко распространился на большинство демографических групп. Эти экономические тенденции сопровождались другими социальными улучшениями, в том числе расширением образования, здравоохранения и продолжительности жизни. Мы объясняем, как и почему технологические изменения не просто автоматизировали труд, но и создавали новые возможности для работников, и как это происходило в институциональной среде, которая укрепляла противодействующие силы.
Глава 8 ("Цифровой ущерб") обращается к нашей современной эпохе, начиная с того, как мы сбились с пути и отказались от модели общего процветания первых послевоенных десятилетий. Центральным моментом этого "переворота" стало изменение направления развития технологий в сторону отказа от новых задач и возможностей для работников и увлечения автоматизацией труда и сокращением трудовых затрат. Это изменение направления не было неизбежным, а скорее стало результатом отсутствия вклада и давления со стороны работников, трудовых организаций и государственного регулирования. Эти социальные тенденции способствовали подрыву общего процветания.
Глава 9 ("Искусственная борьба") объясняет, что видение, которое сбило нас с пути после 1980 года, также стало определять наше представление о следующей фазе цифровых технологий, искусственном интеллекте, и как ИИ усугубляет тенденции экономического неравенства. В отличие от заявлений многих технологических лидеров, мы также увидим, что в большинстве человеческих задач существующие технологии ИИ приносят лишь ограниченные преимущества. Кроме того, использование ИИ для контроля рабочих мест не только усиливает неравенство, но и лишает работников прав и возможностей. Хуже того, нынешний путь развития ИИ рискует обратить вспять десятилетия экономических достижений в развивающихся странах, экспортируя автоматизацию в глобальном масштабе. Все это не является неизбежным. На самом деле, в этой главе утверждается, что ИИ, и даже акцент на машинном интеллекте, отражает очень специфический путь развития цифровых технологий, который имеет глубокие распределительные последствия - выгоду для нескольких человек и отставание остальных. Вместо того чтобы сосредотачиваться на машинном интеллекте, более плодотворно стремиться к "полезности машин", то есть к тому, как машины могут быть наиболее полезны для людей - например, дополняя возможности работников. Мы также увидим, что в прошлом полезность машин приводила к некоторым наиболее важным и продуктивным применениям цифровых технологий, но сейчас она все больше отходит на второй план в стремлении к машинному интеллекту и автоматизации.
Глава 10 ("Демократия ломается") утверждает, что стоящие перед нами проблемы могут стать еще более серьезными, поскольку массовый сбор данных и сбор информации с использованием методов искусственного интеллекта усиливает слежку за гражданами со стороны правительств и компаний. В то же время бизнес-модели, основанные на рекламе, распространяют дезинформацию и усиливают экстремизм. Нынешний путь развития ИИ не является хорошим ни для экономики, ни для демократии, и эти две проблемы, к сожалению, усиливают друг друга.
Глава 11 ("Перенаправление технологий") завершается описанием того, как мы можем обратить вспять эти пагубные тенденции. В ней представлен шаблон для перенаправления технологических изменений, основанный на изменении нарратива, создании противодействующих сил и разработке технических, нормативных и политических решений для борьбы с конкретными аспектами социальной предвзятости технологии.