Если суммировать возражения Витгенштейна, высказанные им Тьюрингу по поводу возможности машин мыслить, то их можно свести к следующим тезисам.
Может ли машина подражать человеческому мозгу «естественным» образом — или она всегда будет лишь «естественно» исполнять предопределенный процесс, заданный для нее человеком, пусть это будет и процесс «подражания мозгу»? Слово «естественный» здесь использовано как бы с точки зрения машины, а с нашей точки зрения это будет как раз «искусственным» образом. Мы не раз увидим в этой книге, что понятия «естественный» и «искусственный» весьма относительны.
Вторая проблема такова: чтобы побудить или заставить мыслить машину, нужно понять, что такое вообще концепции и как мы генерируем концепции при помощи языка. Пока мы не ответим сами себе на эти вопросы, мы можем сколько угодно рассуждать о мыслящих машинах, но создать их мы не сможем.
Машина Тьюринга может исполнять правила, которые для нее прописаны, но она не может производить более того, что предопределили для нее «истинные вычислители», то есть создатели этих правил. Поэтому даже самое сложное устройство для вычислений, построенное по принципу машины Тьюринга, можно сравнить с человеческим разумом не больше, чем бухгалтерские счёты.
Иными словами, мы можем построить сколь угодно сложный агент ИИ, который потенциально сможет выполнить любую задачу. Но он всегда будет ограничен данными на входе. Можно ли такую машину сравнивать с разумом и называть ее «интеллектом», пусть даже искусственным?
Конечно, если каким-то волшебным образом мы будем способны написать для машины Тьюринга совершенную, безошибочную программу, она будет способна на все. Но для этого нужно будет лишить право на ошибку не только машину, но и человека, исключив малейшую погрешность в настройках. Вряд ли это возможно, и выход состоит в том, чтобы дать компьютеру право на ошибку.
Сам Тьюринг, собственно, говорил об этом лучше других: «Если мы хотим, чтобы машина имела интеллект, она не может одновременно быть безошибочной. Есть теоремы, которые практически это и говорят».
АНТИ-ТЬЮРИНГ
Есть такая настольная игра, «Имаджинариум». В ней участники получают по шесть карт со странными изображениями. Например, кит на лугу с вышками электропередач, жираф в городском дворике, красное животное в лесу, дирижабль, на котором привезли почту в тундру. Каждая такая карточка допускает массу толкований. Ведущий выкладывает одну карту рубашкой вверх и говорит, какую ассоциацию она должна вызвать. Но никто пока не видит саму карту ведущего. Другие участники выкладывают, также рубашками вверх, по одной карте из имеющегося у них набора. Карта должна вызывать эту же ассоциацию. Затем выложенные карты мешаются и раскрываются. Участники ставят каждый на ту карту, которая, по их мнению, лучше всего выражает требуемую ассоциацию. Очки получает тот, кто правильно угадал карту ведущего, и те, на чьи карты поставили другие игроки.
Эта игра может служить своего рода тестом Тьюринга для машин — ведь победу в ней одержит тот, кто в состоянии мыслить с ведущим «на одной волне» и «понимать» ассоциации, заведомо не имеющие точных значений, и, более того, зависящих от культурной среды, общего воспитания и множества других переменчивых факторов. Если в игре участвует ИИ среди людей, то можно себе представить, что ИИ, обладая полной информациях о человечестве в общем и о людях этого круга в частности, об их культурных кодах и общем воспитании, сможет периодически угадывать правильные карты. Конечно, не на теперешнем уровне развития, но в каком-то вполне обозримом будущем, когда нейросети позволят ему семантически точно описывать, что изображено на картинках, они же составят словари ассоциаций, из той же художественной литературы, фильмов и так далее, с тем, чтобы выбрать из них наиболее подходящие. Здесь мы заходим на священную территорию художественного творчества, которая считается для ИИ заповедной, но по правде говоря, не видно никаких барьеров, которые помешают ИИ казаться и тут одним из человеческих существ. Он не станет Микеланджело или критиком Ириной Петровской — но этого и не требуется для прохождения теста Тьюринга. Даже если ИИ не станет в игре чемпионом, при среднем результате невозможно будет установить, что это не человек, а машина.
«Имаджинариум» — это своего рода метафора человеческого взаимодействия. Чтобы продвинуться вперед в игровом поле жизни, мы то и дело должны угадывать, понимать с полуслова, быть на одной волне. Доступно ли для машины быть с нами на одной волне? Почему бы и нет? Получается, что в обществе будущего «искусственные разумы», вероятно, будет сложно или невозможно обнаружить.
Но что если вывернуть ситуацию наизнанку? Допустим, в «Имаджинариум» играют несколько искусственных интеллектов и человек. Дело происходит в будущем мире, который захватили машины, где люди мимикрируют под роботов и их главная задача —не обнаружить себя. Сумеет ли человек сыграть в «Имаджинариум» так, чтобы не спалиться? Чтобы все распознали в нем своего, робота?
Для этого ему придется понять, как роботы мыслят — но это сработает лишь в том случае, если у них будет право на ошибку. Если правильным считается лишь один ответ, то человек непременно попадется.
Но допустим, роботы получили право на ошибку. Это право будет обеспечиваться алгоритмами, то есть на практике у них будет не право, а обязанность иногда ошибаться. С виду они будут мыслить примерно как человек—не слишком точно, интуитивно, плюс-минус, а то и совершенно не в тему. И тут наступит момент истины. Ведь если «плюс-минус» у робота — результат на выходе сложного алгоритма, то человек едва ли сможет распознать этот алгоритм и попадется. Точно так же с алгоритмически заданным «совершенно не в тему». Если это итог алгоритмического взаимодействия системы, то человек не раскусит эту логику и попадется. Если же «совершенно не в тему» неподдельное, то это значит, что кто-то из роботов-игроков сошел с ума. И тогда мы получим человека, прошедшего тест Анти-Тьюринга, в кружке «нормальных роботов» и робота-сумасшедшего. Страшновато. Но проблема не только в ситуациях, которые мы сейчас даже не можем себе вообразить даже на карточках «Имаджинариума».
Получается, что если мы даем машине право на ошибку, то первенство, пусть и по очкам, останется за ней. Ведь, как показывает мысленный эксперимент, в общей с ней игре мы машину не распознаем, а она нас — скорее всего —отличит.
Но именно по этому, проигрышному для человечества пути —дать машине право на ошибку, и создать ее такой, чтобы она сама себя обучила не только исполнять задачи, но и ставить их, — и пошла кибернетика на новом этапе своего развития.
ОКОНЧАТЕЛЬНАЯ МАШИНА
Об этом новом витке развития мы поговорим в главе, посвященной нейросетям и глубокому машинному обучению. Именно эти методы создания искусственного интеллекта и работы с ним используются сегодня чаще всего. Они требуют мощной вычислительной базы, которая стала активно развиваться с момента перехода человечества на цифру. А ведь это было не так давно.
Датой начала этого процесса называют обычно 1948 год, когда американский математик, инженер и криптограф Клод Элвуд Шеннон опубликовал свою работу «Математическая теория коммуникации». В ней он показал, что вся информация может быть передана как последовательность нулей и единиц.
Но художники, как это всегда бывает, разработали тему гораздо раньше. В 1915 году австрийский — снова венский! — художник Густав Климт пишет свою работу «Смерть и жизнь». В ней он показывает смерть как единицу, а жизнь — как нолик. В единицу вписана мрачная фигура с дубиной, несущая разрушение — во время написания картины в Европе бушевала война, миллионы людей были убиты, а Людвиг Витгенштейн сражался на восточном фронте, в Галиции. Ноль включал в свой круг все то, что так любил художник, через пару лет умерший от сифилиса: прекрасных женщин в орнаменте из набухающих, размножающихся клеток, символизировавших силу эволюции. Кто-то сейчас умрет, но замысел природы таков, что все неизбежно начнется сначала: в круге был и новорожденный, здоровый, красивый мальчик. Вместе единица и ноль создавали вечный танец жизни и смерти, постоянного рождения нового и отмирания старого.