Искусственный интеллект Бездумная бесчеловечность

Автор: Брюс Абрамсон, RealClearWire

Я начал изучать ИИ в середине 1980-х годов. Необычно для компьютерного ученого той эпохи, мой интерес был полностью в информации, а не в машинах. Я стал одержим пониманием того, что значит жить во время перехода от поздней индустриальной эпохи к ранней информационной эпохе.

Я узнал, что компьютеры фундаментально меняют экономику информации.

Теперь у нас есть недорогой доступ к большему количеству информации и к более качественной информации, чем когда-либо прежде.

Теоретически это должно помочь людям принимать более эффективные решения, организациям разрабатывать более совершенные стратегии, а правительствам разрабатывать более эффективную политику. Но это всего лишь теория. Правда?

Ответ: «Иногда». К сожалению, часть уравнения «иногда нет» теперь готова к разрушительным последствиям.

Рассмотрим измененную экономику информации: Дефицит создает ценность. Это было верно во все времена, во всех культурах и для всех ресурсов. Если ресурса недостаточно для удовлетворения спроса, его стоимость увеличивается. Если спрос будет удовлетворен, а избыток останется, стоимость падает.

Исторически информации было мало. Шпионы, юристы, врачи, священники, ученые, ученые, бухгалтеры, учителя и другие потратили годы на приобретение знаний, а затем получили премию за свои услуги.

Сегодня информация избыточна. Никому ничего не нужно знать, потому что надежные телефоны, которые никогда не покидают нашу сторону, могут ответить на любой вопрос, который может прийти к нам. Зачем тратить свое время на изучение, изучение или интернализацию информации, когда вы можете просто посмотреть ее по запросу?

Проведя последние несколько лет, работая над реформой высшего образования и общаясь со студентами колледжей, я понял всю силу и опасность этого вопроса. Сегодняшние студенты имеют более слабый общий фон, чем мы видели в течение многих поколений, потому что когда информация перестала быть скудной, она потеряла всякую ценность.

Важно вспомнить, как недавно началось это явление. В 2011 году примерно треть американцев и четверть американских подростков имели смартфоны. Оттуда усыновление среди молодежи росло быстрее, чем среди населения в целом. По текущим оценкам, более 90% американцев и более 95% подростков имеют доступ к смартфонам.

Даже правила, ограничивающие использование классной комнаты, не могут преодолеть культурный сдвиг. Немногие из сегодняшних студентов колледжей или недавних выпускников когда-либо работали без возможности поиска или запроса устройства для получения информации по мере необходимости. Таким образом, нет никаких причин для того, чтобы они когда-либо развивали дисциплину или практики, которые составляют основу для обучения.

Однако более глубокая проблема заключается в том, что, хотя мгновенный поиск может хорошо работать для фактов, он смертельно опасен для понимания и хуже для морального мышления.

Быстрый поиск может перечислить каждую битву Второй мировой войны, а также статистику жертв и результаты. Она не может выявить стратегические или этические соображения, которые побуждают воюющие стороны вступить в эту битву. Это также не может объяснить, почему Черчилль боролся за сторону добра, в то время как Гитлер боролся за сторону зла — вопрос, который наши самые популярные интервьюеры и подкастеры недавно выдвинули на первый план.

По крайней мере, поиск не мог дать таких ответов до недавнего времени. Новые системы ИИ, которым еще меньше трех лет, спешат заполнить этот пробел. Они уже предлагают объяснения и прогнозы, иногда включая мотивы, лежащие в основе данных решений. Они начинают выдвигать моральные суждения.

Конечно, как и все инструменты поиска и сопоставления шаблонов, эти системы могут экстраполировать только то, что они находят. Таким образом, они имеют тенденцию увеличивать то, что популярно. Они также являются легкой добычей для некоторых из самых основных когнитивных предубеждений. Они склонны к избыточному весу последних, легкодоступных, широко повторяющихся и всего, что подтверждает предвзятые модели.

Недавние сообщения о том, что Грок срыгивает грубые антисемитские стереотипы и лозунги, иллюстрируют технологическую половину проблемы. Шокирующая волна поддерживаемых террором акций, разрушающих кампусы колледжей и привлекающих недавних выпускников во многих наших городах, иллюстрирует человеческую половину.

Обилие информации разрушило ее ценность. Поскольку информация — факты и данные — являются строительными блоками, на которых должно опираться все понимание, мы вырастили поколение, неспособное к глубокому пониманию. Поскольку сложные моральные суждения основываются на понимании, молодые американцы также лишены элементарной морали.

Мы быстро вступаем в мир, в котором широкий доступ к объемной информации приводит к худшим, а не лучшим решениям и действиям на всех уровнях. Мы передали знания, понимание и суждение на аутсорсинг стерильным устройствам, легко предвзятым для увеличения общественного мнения. Мы вырастили поколение высококвалифицированных, глубоко аморальных, антиинтеллектуалов на грани вступления в лидерство.

Когда вездесущность мгновенного поиска выходит за рамки основных фактов и превращается в моральные суждения, банальные лозунги и бессмысленная жестокость станут править нашей жизнью.

Есть ли выход из этой трясины? Пожалуй, единственное, что открыли древние, когда информация, понимание и мораль сохраняли огромную ценность: вера в высшую силу. Потому что путь, который мы выбрали сами, ведет в очень темные места.

Мнения, выраженные в данной статье, являются мнениями автора и не обязательно отражают взгляды ZeroHedge.