Мы публикуем фрагмент книги Гжегожа Осинского «Цифровые рабы». Transhumanism in Practice», которая была опубликована варшавским издательством Prohibit.
Гжегож Осинский (1967-2022) – квантовый физик, ученый-компьютерщик и когнитивист, в своей последней предсмертной публикации, адресованной как можно более широкой аудитории, пишет в доступной форме об опасностях искусственного интеллекта, вездесущих алгоритмах и все более доминирующей роли корпораций BIG TECH.
Насколько они действительно знают о нас? Они знают о нас больше, чем наши близкие? И если да, то что они будут делать с этими знаниями в будущем? Речь идет о рекламных проблемах или о глобальном управлении целыми обществами, контроле над общественным настроением, ожиданиях, потребностях или, наконец, о политическом выборе? Или они хотят пойти дальше, создать наших «цифровых близнецов» в соответствии с тем, что трансгуманисты объявляли годами?
Мы, как целые общества, цифровые рабы, даже не осознавая этого? Есть ли выход из этой ловушки, где весь мир в ловушке?
*Ох,**
Мы уже знаем, что за онлайн-активностью людей внимательно следит целая группа специализированных алгоритмов, чтобы затем сохранить их в виде огромных наборов данных на серверах Big Tech. Наибольший интерес представляет не наша личная информация, защищенная директивой GDPR, а данные о наших тонких и субъективных эмоциональных изменениях. Наблюдение за человеческими чувствами, мгновенными ощущениями или эмоциональными профилями является очень важной частью стратегии построения новых алгоритмов типа DL, которые смогут научиться изменять эмоциональные состояния человека, контролировать их и использовать в своих проектах. Некоторые классы алгоритмов искусственного интеллекта уже настолько продвинуты, что даже не имеет значения, есть ли у нас аккаунт в социальной сети. Даже если мы никогда не пользовались такими сервисами, как Twitter или Facebook, но как минимум пять наших друзей в реальной жизни имеют такую учетную запись, алгоритмы способны определять наш эмоциональный уровень. Это возможно, потому что в реальном мире мы связаны с нашими друзьями естественными эмоциональными связями и алгоритмы способны перегонять информацию о нас косвенно, основываясь на тщательном эмоциональном анализе наших друзей. Существует также очень похожая ситуация, когда при использовании мобильных телефонов у нас может не быть собственных, но если это есть у нескольких наших друзей, сбор информации о нас больше не является серьезной проблемой для специализированных алгоритмов. Можно использовать такие методы, потому что некоторые пользователи настолько сильно привязаны к цифровым устройствам, и в частности к мобильному телефону, что не распадаются ни на мгновение. Это позволяет проводить косвенный анализ людей, находящихся в реальном мире в близких отношениях, но не пользующихся мобильным телефоном. Мы не часто понимаем, сколько информации мы предоставляем о наших эмоциональных состояниях сегодня с помощью электронных устройств, и соответствующие алгоритмы могут использовать это.
Поэтому не стоит удивляться, что уже сейчас можно построить таких цифровых близнецов, которые смогут моделировать эмоциональные профили, которые будут неотличимы для людей, знающих оригинального человека из реальной жизни. Хотя на самом деле это будет установление эмоциональных отношений с искусственным интеллектом через продвинутые цифровые устройства. Такой анализ эмоциональных состояний человека часто называют специализированным термином «анализ чувств». Японская компания Vinclu выпускает виртуальных партнеров, которые визуализируются как персонажи из аниме-фильмов, очень популярных среди японской молодежи. 33-летний школьный администратор из Токио Акихико Кондо официально женился на виртуальном устройстве, имитирующем партнера. Такое устройство называется Gatebox, и это полуметровая стена, внутри которой визуализируется трехмерная голограмма. В случае г-на Кондо алгоритм имитировал реплику Хацуне Мику, анимационного аниме-исполнителя, созданного Crypton Future. Цифровой персонаж, помещенный в Gatebox, не только общается с естественным языком, но и поет с помощью системы Vocaloid, музыкальной симуляции искусственного интеллекта, созданной Yamaha. Цифровой партнер может говорить на разные темы, просыпаться, проверять прогноз погоды, читать книги, а Vinclu рекламирует ее слоганом «фигура, с которой вы хотите провести свою жизнь». Они запрограммированы с помощью специализированных алгоритмов по классификации профилирующих уровней положительных эмоций с симметричной эмпатией.
Можно предположить, конечно, что сильные эмоциональные отношения господина Кондо с виртуальным моделированием могут быть вызваны не только эффективностью алгоритмов управления человеческими эмоциями, но и японскими психологическими проблемами. И оказывается, что в прошлом его лечили глубокой депрессией, изолировали от других людей и пытались покончить жизнь самоубийством. Если бы его случай рассматривался с точки зрения лечения психических расстройств, то при соответствующей врачебной консультации, возможно, такое моделирование могло бы выступать в качестве поддерживающей терапии. Но СМИ сделали это мероприятие маркетинговым элементом, направленным не только на получение прибыли, но и на продвижение идеологии трансгуманизма. СМИ сообщали, что «Кондо и Мику» поженились «вне измерений» в виртуальном мире. Таким образом, закон о браке, существующий в реальном мире, уже можно наблюдать с помощью симуляции в виртуальном мире. Этот далеко идущий процесс дегуманизации продолжает прогрессировать, охватывая все более широкие области столь типичной человеческой деятельности. Ведь уже в 2017 году китайский инженер Чжэн Цзяцзя, эксперт по искусственному интеллекту, женился на роботе, похожем на женщину, которую сам же и построил. Проблема взаимоотношений людей и машин уже обсуждается специалистами по цифровым гуманитарным наукам, эксперт по искусственному интеллекту Дэвид Леви считает, что прогресс в области искусственного интеллекта и робототехники приведет к легализации браков между «гомо» и «работой» уже в 1940-х годах. Сегодня виртуальный партнер Vinclu стоит около 1500 долларов, а заказы исчисляются тысячами штук в месяц.
Таким образом, мы видим, что идеология трансгуманизма уже очень глубоко проникает в нашу жизнь и оказывает огромное влияние на детей и молодежь, чьи естественные эмоциональные системы еще не полностью созрели, и поэтому алгоритмы, такие как «анализ сентимента», могут эффективно манипулировать своими эмоциями. Даже у взрослых уже есть проблемы, вызванные таким непрерывным обучением специализированными цифровыми системами. Однако гораздо опаснее объективировать человека и свести его стремления и желания к немедленному удовлетворению инстинктов, которые в цифровой среде реализуются гораздо проще, чем в реальной жизни. Чтобы корпорации могли получать определенную прибыль, поведение человека должно быть управляемым и предсказуемым. В конце концов, дело в том, чтобы сделать бизнес прибыльным с минимальным инвестиционным риском. Такие действия должны привести к объединению различных способов мышления и действия. Свобода, которую интернет-технологии должны были принести нам, таким образом, превращается в тюрьму, из которой через мгновение уже некуда будет бежать и цифровые рабы будут жить в синтетическом мире алгоритмически контролируемых эмоций и желаний.
Мы должны понимать, что эмоциональный контроль является мощным оружием, и если кто-то хочет отвлечься от самых важных и опасных проблем, с которыми сталкивается наша цивилизация сегодня, самый простой способ - генерировать сильные негативные эмоции страха и неуверенности. Ведь мы боимся «фишек», имплантированных в наш организм, и забываем, что самые опасные «фишки» - это наш мобильный телефон, который нам даже не нужно носить с собой, достаточно того, что у наших друзей он есть. Мы инстинктивно боимся технологий 5G и лазерных оптических сетей и забываем, что ИТ-инфраструктуры, которая нас окружает сегодня, вполне достаточно для глобального наблюдения. Возможно, лучше всего это было представлено архиепископом Мареком Йендрасевским в течение 29 лет. Паломничество Радио Семьи Марии на Ясну Гуру, заявляя: «Место объективной истины занято постправдой, релятивизмом, ложью и фальшивкой-новостью. В этой духовной пустоте люди становятся совершенно беззащитными перед идеологиями, растущими – как большевизм – из марксистских корней, подрывающими институт брака и семьи, и создающими программы, направленные на нравственную развращенность детей и молодежи. Человечество людей, которые не могут существовать и развиваться без истины, добра и красоты, уже находится под угрозой. Место христианского гуманизма хочет занять место антигуманизма, место объективных и прочных ценностей — нигилизма, место человека, созданного по образу и подобию Божию, — странного существа, лишенного идентичности, потраченного на добычу обманчивых и недолговечных чувственных удовольствий. "
Книга доступна для продажи в книжном магазине Multibook.pl.
