Цифровой медицинский помощник IBM Watson рекомендовал людям, больным раком, неправильные и небезопасные для здоровья препараты, а алгоритм, разработанный для Иммиграционной и таможенной полиции США, стал выдавать одну-единственную рекомендацию для всех без исключения иммигрантов: задержать.
Получив доступ к семейным тайнам, искусственный интеллект стал развлекаться троллингом хозяев. Так система «Эхо» от компании Amazon стала первым искусственным пранкером.
Нам нравится думать, что технологии, которые создают нам так много удобств, под контролем если не нас самих, то наших правительств. До сих пор так оно и было.
Но теперь это далеко не так.
«Уничтожай прошлое, делай будущее,» —говорит юному скучающему миллиардеру героиня фильма «Космополис», пока они ползут по Нью-Йорку в бронированном звуконепроницаемом лимузине. Город охвачен протестами, демонстранты опрыскивают машину спреем, прыгают на нее, пытаются перевернуть, но юный биржевик погружен в танец цифр на мониторе, цифр, которые дадут ему заработать на полном распаде всего вокруг.
Художники всегда видят вперед, вот и режиссер фильма Дэвид Кроненберг еще шесть лет назад показал, как цифра подчиняет себе не только рабов, но и хозяев жизни, погружая их в дурную бесконечность существования без эмоций, воли и даже идентичности, превращая «богов» в машины.
Впрочем, с точки зрения технократов-оптимистов, это лишь очередная страшилка. Современное искусство, прикладная наука и транснациональный капитализм соединились сегодня в общем порыве к безграничному горизонту, за которым, как предполагается, машина и человек сольются в единое существо, извлекающее прибыль не только из энергии и элементов Земли, но и непосредственно из всех накопленных человечеством за долгую историю знаний. Искусственный Интеллект извлечет из человека необходимый информационный ресурс, так что прошлое будет утилизировано и монетизировано.
Обширные территории до самого горизонта на карте бизнеса, связанного с ИИ, заняты сейчас несколькими глобальными мегакорпорациями — это все те же Amazon, Google, Apple, Microsoft, Tencent, Facebook. Именно они застраивают пейзаж, создают там инфраструктуру и новые механизмы аккумулирования капитала и эксплуатации природных и человеческих ресурсов планеты.
АНАТОМИЯ ИИ: ЧТО ВНУТРИ ЧЕРНОГО ЯЩИКА
ВЕЖЛИВЫЕ ЛЮДИ ИЗ AMAZON
Не так давно в обычном американском городе Портленде у обычной американской семьи сбылась обычная американская мечта. У них в доме появился умный помощник Алекса.
Алексу привезли вежливые люди из компании Амазон, которые без шума и пыли встроили по всему дому контрольные приборчики системы «Эхо». Так в зале появился гладкий 15-сантиметровый цилиндр, по верхнему ободку которого бегает сине-зеленый огонек. Он молча наблюдает за всем вокруг и ждет команды. Теперь, встречая гостей, хозяйка дома Даниэль может, как бы невзначай, сказать: «Алекса, свет в прихожей» —и там становится светло. «Алекса, громкость на пять», «Алекса, давай поболтаем», «Алекса, потеплей» или даже «Алекса, заткнись».
И Алекса послушно добавляет звук, рассказывает анекдот, повышает градус и смиренно затыкается. Не о такой ли служанке мы все мечтаем, если можем себе это позволить?
Долго ли, коротко ли наслаждались Даниэль с мужем исполнительной помощницей, а только через какое-то время раздается телефонный звонок. Звонит подчиненный мужа из Сиэтла — а это не так и близко, за полтораста миль.
— Отключите Алексу прямо сейчас! — взволнованно говорит подчиненный. — Мне транслируются все ваши разговоры.
— Да ну, ты шутишь, — говорит муж. — Или бредишь. Ну вот о чем мы говорили перед твоим звонком?
— О том, что лучше застелить пол досками, — говорит сотрудник.
Даниэль изменившимся лицом бежит выключателю: действительно, именно об этом она разговаривала с мужем!
Даниэль позвонила сотрудникам Амазон, и те пообещали все расследовать. Немало времени прошло с той поры. В конце концов, позвонил от них вежливый человек, извинился раз пятнадцать за полчаса и пообещал всё выяснить. Даниэль сказала, что хотела бы просто вернуть деньги назад, но ей сказали, что все, что они могут сделать — это посмотреть, что пошло не так.
Амазон не так-то просто расстается с клиентами, ведь его хозяин Джефф Безос — самый богатый человек в мире. Пресса сообщала об условиях труда на складах компании: работники должны упаковать 300 посылок в час, работая так с 7:30 утра до 6 вечера и писая в бутылки или в памперсы, чтобы не получить штраф за медлительность. А недавно «Амазон» отказался открывать вторую штаб-квартиру в Нью-Йорке, где город в обмен на обещание рабочих мест пообещал вернуть компании три миллиарда долларов налогов. За бюджетный счет, разумеется. Компании с почти триллионной капитализацией показалось, что в другом месте они могут договориться на более выгодные условия.