Известный автор Ник Востром определяет интеллект как алгоритм, реализуемый на физическом уровне. Искусственный интеллект —это интеллект, созданный не в естественной среде, пишет ученый. Далее, по мере развития способностей «искусственного интеллекта» Востром добавляет ему все новые «степени». Когда ИИ овладеет умом, интуицией, пониманием, всеми видами восприятия, воображения, познания и мышления, о которых мы говорили, то он становится, по выражению Бострома, «интеллектом человеческого уровня». Когда ИИ превзойдет и этот уровень, то можно будет говорить об «искусственном суперинтеллекте», или Сверхразуме.
Востром мерит интеллект машины в «человеках», при этом обходит вопрос о том, что же это за мера такая. Это теплокровное млекопитающее, живородящее и позвоночное, дышащее легкими, двуполое... возможно, двуполое? Это социальное животное, или это политическое животное, или это животное, не укладывающееся ни в одну из классификаций?
Если же говорить о неизменных свойствах человека, то это уже не два пола, да и другие биологические характеристики с течением времени также могут измениться. Человек захотел взять в свои руки собственную эволюцию, а если ему что-то втемяшится в голову, то своего он добьется.
Существует философский парадокс, известный под названием «Корабль Тесея». Афинский герой Тесей совершил много подвигов, в том числе убил Минотавра, избавив свой город от выплаты чудовищной дани. В благодарность афиняне сохранили его корабль, который считался священным. По мере того как доски корабля приходили в негодность, их заменяли новыми, пока, наконец, в теле корабля не осталось ни одной изначальной доски. Тот ли это корабль или уже новый? —стали спрашивать друг друга философы.
Наиболее авторитетно высказался на эту тему Аристотель. По его мнению, у любой вещи есть форма, материал и суть. Полностью заменив износившийся материал, мы не изменили суть, поэтому корабль остался тем же.
Точно так же определять человека его биологией скоро будет лишено всякого смысла. У него сначала появятся искусственные органы, а со временем, вероятно, и весь «материал», из которого сделан человек, будет заменен более надежным. Означает ли это, что человек превратится принципиально во что-то другое? Аристотель бы ответил на этот вопрос «нет»: человек останется человеком.
Но какие характеристики человека можно считать достаточными для того, чтобы дать ему определение? В случае с тем же кораблем Тесея, его ведь можно считать другим без всякой смены досок — просто потому, например, что он изменил положение в пространстве. Как бы абсурдно это ни звучало, данный парадокс представляет серьезную проблему в машинном обучении того самого «искусственного интеллекта», который мы хотим определить. Как мы покажем дальше, многие системы машинного обучения действительно воспринимают переместившийся «корабль Тесея» как совершенно новый объект, что создает большую путаницу. Только недавно в обучении нейросетей случился качественный скачок, который позволил решить эту проблему.
Допустим еще, что мы извлекли по одному и заменили на улучшенные образцы все органы человека. Старые органы мы заморозили, и через пятьсот лет наука нашла способ их вылечить и сделать как новыми. Если мы соберем из этих органов новое тело, будет ли оно тем самым человеком, которого мы разобрали? Скорее всего, мы бы ответили «нет», ибо в этом наборе Лего нет «сути» — или души.
Но что же такое эта суть? Что такое человек, как определить его? Может быть, это воля к власти, как считал Ницше? Это качество, пожалуй, машина вполне может перенять. Но человек больше власти.
Может быть, это жажда бессмертия и полного и окончательного торжества справедливости? Ведь на этом основаны, так или иначе, все религии, а религиозность куда древнее вашей пирамиды Маслоу. Древние люди не поняли бы предписания Маслоу о том, что прежде чем подумать о богах, они должны удовлетворить свои низменные потребности. Наверное, они бы их удовлетворили, съев самого Маслоу, или сделав его, в опровержение его точки зрения, сакральной жертвой.
Может быть, человек — это ненасытность, как тела, так и духа? Ведь даже бессмертия нам мало: мы жаждем воскрешения мертвых, и это наверняка только начало! Как мы будем смеяться над теми, кто провозгласит бессмертие финалом человеческой истории — да мы готовы будем снова убивать, лишь бы иметь возможность мечтать о чем-то большем!
Мечтать... уснуть — и видеть сны? Но — «какие сны в том смертном сне приснятся, когда покров земного чувства снят»?
Может быть человек —это вечная неудовлетворенность, вечная несогласованность мечтаний друг с другом и между другими? Мы всегда хотим большего, даже не зная, как можем это назвать, хватит ли у нас для этого слов и языков.
Мы всегда хотим большего —сказав это, остановимся.
ОБЪЕДИНЕННЫЙ РАЗУМ И ПАРАДОКС МОРАВЕКА
В сентябре 1930 года в Кёнигсберге (нынешний Калининград) проходил, быть может, самый важный математический конгресс XX века. На нем выступил очень мнительный и застенчивый молодой человек, 24-летний австрийский математик Карл Гёдель. Его выступление повергло в шок собравшихся там светил мировой науки. На их глазах Гёдель опроверг тогдашнего математика номер один, уроженца Кёнигсберга Давида Гильберта. Поразительно, но будучи немцем, гражданином Третьего Рейха, он стал почетным академиком Академии Наук СССР.
Гильберт верил в могущество человеческого разума. Ему принадлежит фраза «Wir mussen wissen. Wir werden wissen» — «Мы должны знать —мы будем знать» —эти слова высечены на его надгробии в Гёттингене. Как и нынешние фанаты прогресса, которые считают, что любая проблема в мире может быть решена при помощи соответствующей технологии, Гильберт был научным оптимистом. Он верил в то, что в принципе можно решить любую математическую проблему. Более того, он брался доказать, что любой непротиворечивый математический объект может считаться существующим, даже если он не является плодом человеческой интуиции или никак не связан с реальным миром.
Чем вам, кстати, не обоснование любых будущих плодов развития «искусственного интеллекта» — если под последним понимать математический алгоритм?
Гильберт вообще верил в человека и его неограниченные возможности к познанию. Верил он в мир и международное сотрудничество. Во время Первой мировой войны он отказался подписать манифест в поддержку действий германских войск, который одобрили такие крупные ученые, как Макс Планк и Вильгельм Рентген. Годы войны Гильберт провел в Гёттингене. Нацистские ученые провозгласили свободу науки от «еврейского влияния». Немецкая математика отвергла теорию множеств — возможно, из-за использования в ней неарийских символов, а сторонники интуиции в науке, которых когда-то Гильберт высмеивал, образовали «Немецкое математическое общество» и были в фаворе у главы Имперского научно-исследовательского совета пар-тайгеноссе Геринга.
Имперский министр науки, воспитания и народного образования Бернхардт Руст как-то спросил у Гильберта: «Ну как математика в Гёттингене, после того как она освободилась от еврейского влияния»? Гильберт ответил язвительно, но иронию могли распознать только те, кто разбирался в его трудах. «Математика в Гёттингене — ее больше нет», ответил он, намекая на то, что она утратила внутреннюю непротиворечивость, а следовательно и смысл.