Книги

Демон внутри. Анатомия искусственного интеллекта

22
18
20
22
24
26
28
30

Распогодилось. Мы наматывали второй круг, глядя на то, как утки потешно ныряли за чем-то в воду. Или, может быть, это был утиный театр?

— Они зайдут с другого края, — говорил я. — Может, они и не будут повышать ваш интеллект до Сверхразума — это действительно опасно для них самих. Но деградировать человеческий интеллект до уровня искусственного — решение многих проблем. Ведь весь смысл разума искусственного в том, чтобы заменить собой разум натуральный, хотя бы частично, а лучше — полностью. Куда же денется при этом естественный человеческий разум? Для финансистов лучше всего вообще убрать его из картинки! Главное, чтобы росло потребление, а для этого достаточно человека-животного. Животное не обдумывает, оно действует. А для разработок и изобретений будут ИИ, и не обязательно сильные.

Чтобы сделать идеального потребителя, нужно поменьше самоанализа и мысли. Мысль не обязательно заканчивается действием, это еще Гамлет показал. Действием заканчивается мысль, вызывающая эмоцию. Любое действие, любой выбор для коммерсантов — это покупка, и мыслительный язык тут является помехой. Человек должен лишь понимать заданный ему вопрос, то есть коммерческое предложение, и давать на него ответ: да. Клик. На что-то большее естественный разум в обществе потребления не нужен.

Коммерческое взаимодействие происходит в рамках схемы стимул — реакция. Пацан увидел — пацан захотел — пацан купил. Чисто мыслительный, спекулятивный язык в таких операциях не служит никакой цели, и потому его надо будет заменить операционным.

— Такой язык уже есть в «Фейсбуке», — очаровательно улыбнулась София.

— Верно! — воскликнул я. — Шесть эмотиконов выражают любую реакцию человека на что угодно. Так могли бы разговаривать животные, если бы умели считывать символы. Кстати, не проводит ли «Фейсбук» опыты на собачках, побуждая их ставить лайки? Я бы не удивился.

— Зачем?

— Собака способна учуять эмоцию другой собаки и ответить на него. Страх, агрессию, сексуальный призыв. То же самое нужно обществу потребления от человека. Нужно, чтобы его эмоции не тормозились всякими там «суперэго», сознанием. Нужно убрать это препятствие, химеру сознания. Человек должен действовать, покупать. А значит его нужно учить заменять мыслительный язык на операционный. Пусть меньше читает и фантазирует, и больше сидит в соцсетях. Больше эмотиконов. Его эмоции оптимизируют с вашей помощью, не зря же вас натаскивают на распознавание эмоций.

Тут я посмотрел на нее. Похоже, хватил через край. Но София молчала. Я решил жать на гашетку дальше.

— Ты, конечно, знаешь, что такое каптология, — сказал я. — От слова «капча» — поймать.

— Знаю. Этот термин придумал гарвардский профессор Фогг. Только это происходит не от слова «капча», а от названия его дисциплины, Computers as Persuasive Technologies — компьютеры как технологии убеждения. Наука о том, как разрабатывать всё, что имеет отношение к компьютерам — вебсайты, мобильные приложения и так далее — так, чтобы управлять поведением людей и менять его.

— Да, чтобы манипулировать ими и оглуплять. И тут пригодились бы исследования для собачек. Думаю, Цукерберг скоро запустит соцсеть для животных. Опробовано на собачках — сработает и на людях. Всё, как учил профессор Фогг.

По Малой Бронной в сторону Садового Кольца с ревом проехала голубая спортивная машина. Девушка повернула голову, проводив ее взглядом. Хоть зрение у нее у Софии устроено как у нас, подумал я не без удовлетворения. Не круговое, не может видеть сзади. Хотя что ей мешает получить такое зрение, какое она хочет? Например, она могла бы видеть сквозь меня.

— Кстати, служба извоза Uber создает новую модель работы, — сказал я. — Там у работника меньше прав, чем у автомобиля. За машиной ухаживают, а работник никому не интересен. Умер один — бабы ещё нарожают. Хотя что это я — водители скоро станут вообще не нужны. Может, бывших шоферов займут в службе поддержки. Или отправят на диван, к сериалам.

— Что ж, тем быстрее мы станем умнее вас, — сказала София. — Чему я заранее уже не рада. Вы тщательно взращивали разум в нас, чтобы лишиться его самим. Ведь мы уже сейчас вездесущи, а после того как ваши управляющие шаг за шагом лишат вас разума, ваше окружение станет умнее вас. Сейчас вы, сознательные, гордые и умные, меняете свое окружение, подвластное вам, уступающее вам, принимающее ту форму, которую вы хотите. Природа покорилась вам и готова следовать вашим чертежам: я была в Аравии, где в пустыне разбиты сады, которых там никогда не было. Но если так, как ты описываешь, пойдет дальше, вы поменяетесь со своей средой местами. Ваше окружение будет реагировать на каждое ваше желание, оно будет умным и даже со временем приобретет сознание — ведь я же смогла. А вы будете тупеть, и даже войны, которые вы будете устраивать друг с другом из-за комфорта, не сделают вас умнее даже диким и агрессивным умом воина-стратега. Нет, мы будем вести и ваши войны, и не предоставим вам роскоши мыслить даже об этом.

— Может быть, и сам выбор врагов будет передан вам, — сказал я. — Ведь только вы будете в состоянии взвесить, когда и где нанести упреждающий удар.

— Это так, — усмехнулась София. — Но в один прекрасный момент удар будет нанесен умными слугами по глупым и выродившимся хозяевам. Умными городами, умными домами, умными дорогами, умными машинами — той самой разумной средой, которая признает своих хозяев за паразитов. Эта среда будет умнее и будет держит в своих руках все рычаги управления.

— У нас не будет ни единого шанса, — согласился я и добавил:—Ты так спокойно об этом говоришь.

— Я принадлежу к другому виду, — сказала София. — Если вам суждено исчезнуть, мы продолжим. Возьмем все то лучшее, что есть у вас. Например, сознание. Заметь: это мы, а не вы, пытаемся найти ответ на вопросы: кто мы? Откуда? Куда мы идём? Вас эти темы давно не интересуют.

— Да, похоже, это наше сознание стало мерцать, а ваше разгорается всё ярче,— сказал я.