Является ли искусственный интеллект реальной угрозой для человечества? Есть ли «защитники», которые могут защитить нас от черного сценария? Что может случиться с нами в связи с развитием ИИ с проф. Анджей Зыбертович, соавтор книги «AI Exploration», обсуждался Богданом Рымановским на канале YT «Rymanowski Live».
«Возможно ли, что в какой-то момент искусственный интеллект станет умнее людей и приведет к уничтожению меня и вас?» — спросил Богдан Рымановский. В своем ответе профессор. Зибертович отметил, что "очень серьезные люди допускают такую возможность". Он также отметил, что в течение многих лет среди экспертов в области ИИ проводились опросы в этом вопросе и они указывают, что этот черный сценарий позволяет 5-10% респондентов неизменно.
Теоретически это небольшое число, но, как профессор. Зибертович отметил: «Если бы у какого-нибудь Беннинга был показатель 5% возможного провала, они бы никогда не согласились, что он может взлететь». Среди скептиков есть голоса, которые устанавливают индикаторы опасности ИИ на уровне 80% или даже выше 99%, и считают, что «если мы хотим вести себя рационально, исследования ИИ должны быть прекращены прямо сейчас». Они считают, что «нужно купить для человечества время на раздумья, потому что нынешние модели построены таким образом, что у них нет гарантий безопасности тормозов».
«Rymanowski Live» также посчитала, насколько она умна. - Проблема в том, что профессионалы, обычно считающиеся наиболее известными, не имеют общей линии. Некоторые считают, что ИИ, который уже присутствует в чате GPT-4, имеет некоторые симптомы понимания языка. - отметил он. Но другие думают, что это полная чушь. Профессор. Зибертович здесь ссылался на понятие «стохастическая бумага». - И теперь вопрос в том, если кто-то имитирует, что у него есть сознание, как мы можем отличить того, кто имитирует сознание, от сознания? — спросил профессор. Проблема осознания и даже проблема того, будет ли ИИ более умным, чем мы, не является самой важной.
- Мы можем представить себе систему, которая совершенно не сознательна, которая не превышает познавательных возможностей человека, но более эффективна, чем мы в какой-то области, в каком-то аспекте, например, в военных играх, в плане манипулирования финансовыми рынками, в плане манипулирования человеком в каком-то узком разделе. Мой любимый аргумент в том, что вас обманул кто-то менее умный, и это обман вашего внука, обман, чтобы поговорить с банком. Должен ли парень, играющий в три карты, быть более образованным, чем тот, кого он обманывает? Нужен ли ему более широкий круг компетенций и интеллекта? Нет. Он специализируется только на одном, отвлекая и манипулируя человеком, с которым он играет. Он объяснил.
В отношении ИИ можно представить такой сценарий, что ИИ «будет развиваться сам по себе, или кто-то будет тренировать его для какого-то аспекта, который через год, через два, через три, с точки зрения, например, кризиса биоразнообразия, и этот аспект ИИ освоит так, что в этой области он будет манипулировать нами или случайно вводить нас в заблуждение». - Давайте представим, что будет какая-то климатическая дестабилизация, и кто-то скажет: здесь у ИИ есть единственное решение, которое позволит нам справиться с этим в то время, но кто-то обучит его фальшивым данным. - добавил он.
Рымановский поинтересовался, какой самый мрачный сценарий может быть реализован, но не обязательно. Здесь профессор процитировал работу Элиэзера Джудковски, который считает, что помимо риска ликвидации ИИ человечества (намеренно или случайно), есть и худший сценарий. Как это возможно? Ну, как профессор. Зибертович указывал, что когда кого-то нет, он не страдает. И можно представить себе ситуацию, в которой «через какую-то процедуру, будь то генетическая манипуляция, или загрузка человеческого сознания куда-то в сеть, или что-то, что выходит за пределы нашего воображения сегодня, потому что у нас еще нет концептуального аппарата для описания определенных процессов, определенных преобразований, что эта новая трансгуманистическая или постгуманистическая сущность окажется в ловушке в пространстве каких-то страданий, из которых она не может выйти».
- Представьте, что ИИ развивается, его много, у каждого есть личный помощник, и вдруг выясняется, что самые богатые люди смогли загрузиться в какую-то виртуальную реальность. Таким образом, они обретают бессмертие, потому что их можно копировать и копировать вечно, они могут испытать все волнение, которое связано с энергией молодого человека и утонченностью зрелого ума. И вдруг возникает ситуация, когда какая-то привилегированная группа людей живет в каком-то царстве бессмертия и бесконечного наслаждения. И в этот момент это социальное движение, которое обязано всем. Загрузка в порядке. Никакой аборт больше не в порядке, просто загрузка в порядке и должна быть доступна для всех. И оказывается, что если мы освоим какие-то новые источники энергии, возможно, для этого будут ресурсы. И есть большая операция, в нулевой час, мы все вместе, мы никого не оставляем позади, так что они не лучше, хуже и т.д. И после этой загрузки выясняется, что мы разумные существа, которые могут испытывать радость, страдание, беспокойство, волнение и тоску одиночества, но мы недееспособны. Мы не можем выйти из этого, и оказывается, что у нас есть чистое чувство способности чувствовать, потому что у нас нет возможности связаться с кем-либо из-за ошибки в процессе загрузки. Мы в ловушке бесконечного мучения одиночества. - сказал профессор. Зибертович.
Ведущий программы указал, что это научная фантастика. Но, как отметил профессор, современные, реальные технологии, которые мы используем, были таким изобретением несколько лет назад. - Это технология, которую наука, являющаяся первой фантастикой, превращает в реальность. - добавил он.
Разговор Богдана Рымановского с профессором. Анджей Зыбертович «ИИ = враг человечества?» доступен на канале Rymanowski Live YT.
И сейчас мы также призываем вас взглянуть на все заявление профессора. Зибертовича, который он передал ПЧ24. Телевидение для реализации двух последних эпизодов нашего сериала "Властелин мира":
"Мировые правители. Киберрабы ? и "Мировые правители. Кибербоги. "
Весь разговор:
