Эллиот добился в жизни того, о чем многие люди могли только мечтать. В свои тридцать с небольшим лет он работал юристом по корпоративному праву, был умен и в хорошей физической форме. У него были жена, дети, дом, деньги и приличный социальный статус. А потом жизнь Эллиота начала стремительно и внезапно рушиться. Он начал испытывать сильнейшие головные боли, и ему становилось все труднее сосредоточиться. С учетом других изменений в поведении наблюдавшие его врачи заподозрили у него опухоль мозга, и вскоре подозрение оправдалось.

Это была менингиома, обычно доброкачественная опухоль, зарождающаяся в тканях оболочек мозга и стремительно разрастающаяся. На момент постановки диагноза она достигла размеров небольшого апельсина. Она располагалась прямо за глазами, над носовыми полостями и все сильнее давила на лобные доли мозга Эллиота. Несмотря на то что опухоль была доброкачественной, она продолжала расти и грозила неизбежными повреждениями мозга с последующим смертельным исходом. Врачи решили, что хирургическое вмешательство – единственный вариант. В ходе долгой операции они успешно удалили опухоль и некоторое количество поврежденной ткани, что нормально при подобных процедурах.

Физически Эллиот полностью выздоровел. Его высокий интеллект и речь не пострадали. С когнитивной точки зрения он был функционально способен выполнять многие задачи, которые выполнял до операции. Тем не менее вскоре стало очевидно, что Эллиот сильно изменился. На первый взгляд, здравый смысл остался при нем, но Эллиот больше не мог принимать решения, касающиеся личного выбора, и выполнять связанные с ними действия. Как будто все в его жизни стало одинаково важным, из-за чего принять решение было невозможно. Он не мог определить, что нужно сделать – или чего не нужно делать – в какое угодно время. Всё – абсолютно всё – приобрело для него равную ценность, а в результате относительная ценность для него перестала существовать.

Например, если нужно было что-то упорядочить и рассортировать, Эллиот мог выполнить задачу достаточно качественно. На самом деле слишком качественно, поскольку он мог весь день выбирать критерий для сортировки – дата, размер документа, номер дела, важность или какой-то другой. С интеллектуальной точки зрения он мог привести большой список за и против каждого подхода, но не мог выбрать, какой из них лучше. В процессе он мог начать читать какой-то документ и провести за его изучением остаток дня. Он был просто не в состоянии определить степень важности для каждой задачи и на его основе принять верное и своевременное решение. В таком изложении ситуация выглядит очень сложной и формализованной, но на самом деле мы каждый день делаем все то же самое по сотне, если не по тысяче раз.

В течение следующих нескольких месяцев Эллиот потерял работу, жену и дом. Он ввязывался в сомнительные и затратные предприятия, из-за чего остался банкротом. Вся его жизнь полетела под откос.

Однако из разговоров с Эллиотом было ясно, что он ничего не чувствует по поводу своих потерь. Он не испытывал ни грусти, ни гнева, ни досады. Он просто жил. И хотя его знания и интеллект сохранились, опухоль все же отняла у него нечто очень ценное – связь с собственными эмоциями и, более того, способность определять, что важно, а что нет. Всё, что было в его жизни – значительное и несущественное, – приобрело одинаковую ценность, и в конце концов он всё потерял.

Антонио Дамасио, специалист в области нейронаук и писатель, длительное время наблюдавший Эллиота и описавший его случай, объясняет эту потерю связи¹. Область мозга Эллиота, которая была сильнее всего повреждена, разорвала сообщение между участками, которые отвечают за обработку чувств и мотивацию. Гипотеза соматического маркера Дамасио предполагает, что главную функцию в этом процессе выполняет вентромедиальная префронтальная кора головного мозга. Эта часть коры содержит обширную сеть сообщения с другими областями мозга, включая переднюю поясную кору и миндалевидную железу.

Многочисленные тесты с участием Эллиота и других людей, у которых была повреждена та же область мозга, показали, что такие люди хронически неспособны переживать свое соматическое состояние или знать о нем. То есть сигналы, которые передавал организм – учащенное сердцебиение, повышенное потоотделение, нервная дрожь, встопорщенные волоски на коже, – не поступали в область мозга, которая отвечает за их классификацию и соединяет физио-эмоциональное осознание с другими когнитивными функциями. По словам Дамасио, эти стимулы объединяются и образуют чистое соматическое состояние, которое смещает когнитивную обработку более высокого уровня и влияет на процесс принятия решений.

Состояние, от которого страдал Эллиот, известно в психиатрии как алекситимия – неспособность распознавать и описывать собственные эмоции². Она возникает по целому ряду причин, для нее характерны дисфункции эмоционального осознания и межличностных отношений, а также недостаток эмпатии и неспособность различать эмоции других людей³. Кроме того, как показал случай Эллиота, алекситимия также может привести к ошибочной аргументации при расстановке приоритетов и решении, на что нужно обратить внимание.

Эта проблема встречается не только у людей. Многие недостатки искусственного интеллекта объясняются невозможностью понять, куда направить внимание и на чем сосредоточиться. Как показано в этой главе, отсутствие функций, напоминающих эмоции, может оказаться решающим фактором в подобной ситуации.

С самого начала компьютерной эры ученые и исследователи стремились создать искусственный разум, программы, благодаря которым компьютеры могли бы выполнять некоторые когнитивные функции, как люди. Раньше считалось, что это вполне достижимая цель. Ведь машины показали, что способны выполнять огромное количество вычислительных задач быстрее, чем любой человек. Предполагалось, что «обучить» их простым аспектам повседневной жизни будет проще простого. Это было в середине 1950-х годов, и многие сторонники идеи считали, что создать искусственный разум, эквивалентный человеческому, удастся в течение поколения.

Оглядываясь назад, трудно понять, как можно было настолько недооценить весь объем проблем, связанных с достижением этой цели. Сегодня понятно, что сама идея о возможности создать искусственный интеллект за два с половиной десятилетия опередила свое время на несколько поколений. С течением времени количество трудностей увеличивалось. В работе над созданием мыслящей машины на одну скромную победу приходились сотни поражений. Становилась очевидной истинная глубина и сложность разума людей и животных. Даже простейшие задачи, например определить местонахождение чашки и поднять ее, оказались весьма нетривиальными. Именно те аспекты нашего разума, которые мы по большей части воспринимаем как должное, машине оказалось скопировать труднее всего.

Как же все-таки получилось, что столько исключительно умных людей недооценили истинный характер проблемы? По большей части причина крылась в простой эпистемологической истине: мы не знаем о том, чего мы не знаем. Эпистемология – это ветвь философии, изучающая характер и объем знания. Она изучает то, что мы знаем, как мы это знаем, правдиво ли то, что мы знаем и, наконец, каковы пределы знания. В случае с искусственным интеллектом еще слишком многое не было открыто в области естественного разума и сознания. Лишь после того, как человечество узнало намного больше о мозге, причем за счет использования сложных технологий обработки данных и точных методов сканирования, нам удалось достичь того этапа развития науки, на котором появление продвинутого машинного интеллекта стало казаться неизбежным.

Основы искусственного интеллекта были заложены куда раньше, чем многие считают. В эпоху Просвещения в XVII и XVIII веках такие философы, как Декарт, Гоббс и Лейбниц, исследовали природу рационального мышления и пытались формализовать свое понимание явления. Они рассматривали разум как систематический процесс сродни математическим правилам. Лейбниц даже исследовал возможность существования универсального языка рациональных суждений, благодаря которому они приобрели структуру и четкость, как теоремы в геометрии⁴. Позже эти идеи станут вдохновением и путеводной звездой для зарождающейся сферы искусственного интеллекта.

В XIX и XX веках прогресс в области математической логики в сочетании с делающей первые шаги электроникой привел к появлению машинной логики, а впоследствии – к появлению целого ряда языков программирования. Кроме того, исследования в области неврологии, проведенные в XX веке, не так давно определили, что мозг сам по себе – это сеть клеток, обменивающихся сигналами. Сложно удержаться от их сравнения с современными электрическими и опорными коммуникационными сетями.

В период Второй мировой войны вычислительные технологии поднялись на более высокий уровень, и в конечном итоге возникла уверенность в неизбежном появлении искусственного интеллекта (ИИ). Военные нужды и проблема на первый взгляд не поддающихся дешифровке сообщений, используемых Германией и Японией, обусловили гигантские шаги в области, которая стала одним из направлений информатики⁵. Группа дешифровщиков из Блетчли-Парк, Англия, в составе которой был и Алан Тьюринг, годами работала над решением проблемы⁶. Возможно, без их достижений война длилась бы куда дольше и союзники могли потерпеть поражение. После Второй мировой войны компьютерные науки и теория находились на том этапе, когда некоторые ученые и исследователи считали, что человечеству вскоре удастся создать настоящий машинный разум.

Учитывая обстоятельства, легче понять, почему новая область информатики истолковала эту идею настолько неверно. Машинный «разум» выиграл войну – сначала это почти удалось Германии, но в конечном итоге победили союзники. Без технологии немецкая машина «Энигма» не могла бы шифровать и расшифровывать тысячи, казалось бы, не поддающихся расшифровке сообщений. Без еще более сложной технологии (усовершенствованной за счет человеческого разума в качестве основного компонента) союзники не взломали бы разработанное по последнему слову науки и техники тех времен и практически абсолютно криптографически стойкое шифрование.

После войны Тьюринг, все еще обязанный исполнять закон о неразглашении государственной тайны Великобритании, опубликовал свою знаменитую статью 1950 года «Вычислительные машины и разум» (Computing Machinery and Intelligence), которая начинается словами: «Я предлагаю рассмотреть вопрос „Могут ли машины думать?"»⁷ Наряду с другими аналитическими разработками, такими как формализованная логика, созданная в середине XIX века математиком Джорджем Булем, автором книги «Законы мысли» (The Laws of Thought), становится проще понять, насколько специалисты в области компьютерных наук были слепы в отношении трудностей, с которыми они столкнулись. С некоторыми из сложнейших интеллектуальных проблем столкнулся не человеческий разум, а его слуга – машина.

В послевоенные годы в исследования машинного интеллекта вкладывали миллионы долларов. Термин «искусственный интеллект» был введен в обращение в 1956 году на конференции в Дартмуте, которая считается началом этого направления. В конце 1950-х годов было предпринято несколько практических попыток создания первых программ ИИ: Logic Theorist, написанная в 1956 году, и General Problem Solver, написанная в 1957 году, а также создание языка программирования ИИ LISP в 1958 году. Но несмотря на открытия, было множество провалов. Наконец в начале 1970-х годов правительства Соединенных Штатов и Великобритании, разочарованные отсутствием прогресса и под влиянием политического давления, прекратили финансирование в этой области. Этот период получил название «зима ИИ» – образное выражение, означавшее утрату иллюзий со стороны политиков и крупных корпораций, что привело к значительному сокращению финансирования проектов по разработке ИИ.