Сатурн 3
Это не рыба-сайенс...
Ад здесь, на земле
перепечатывать
5 сентября 2024 года
Уничтожит ли ИИ человечество?
перепечатывать
5 сентября 2024 года
Уничтожит ли ИИ человечество?
Профессор Зибертович о сценарии страшнее, чем уничтожение
(Источник: YouTube/Rymanowski Live)
Является ли искусственный интеллект реальной угрозой для человечества? Есть ли «защитники», которые могут защитить нас от черного сценария? Что может случиться с нами в связи с развитием ИИ с проф. Анджей Зыбертович, соавтор книги «AI Exploration», обсуждался Богданом Рымановским на канале YT «Rymanowski Live».
«Возможно ли, что в какой-то момент искусственный интеллект станет умнее людей и приведет к уничтожению меня и вас?» — спросил Богдан Рымановский. В своем ответе профессор. Зибертович отметил, что "очень серьезные люди допускают такую возможность". Он также отметил, что в течение многих лет среди экспертов в области ИИ проводились опросы в этом вопросе и они указывают, что этот черный сценарий позволяет 5-10% респондентов неизменно.
Теоретически это небольшое число, но, как профессор. Зибертович отметил: «Если бы у какого-нибудь Боэнинга был показатель 5% от возможного сбоя, они бы никогда не согласились, что он может взлететь». Среди скептиков есть голоса, которые устанавливают индикаторы опасности ИИ на уровне 80% или даже выше 99%, и считают, что «если мы хотим вести себя рационально, исследования ИИ должны быть прекращены прямо сейчас». Они считают, что «нужно купить для человечества время на раздумья, потому что нынешние модели построены таким образом, что у них нет гарантий безопасности тормозов».
«Rymanowski Live» также посчитала, насколько она умна.
И сейчас мы также призываем вас взглянуть на все заявление профессора. Зибертовича, который он передал ПЧ24. Телевидение для реализации двух последних эпизодов нашего сериала "Властелин мира":
(Источник: YouTube/Rymanowski Live)Является ли искусственный интеллект реальной угрозой для человечества? Есть ли «защитники», которые могут защитить нас от черного сценария? Что может случиться с нами в связи с развитием ИИ с проф. Анджей Зыбертович, соавтор книги «AI Exploration», обсуждался Богданом Рымановским на канале YT «Rymanowski Live».
«Возможно ли, что в какой-то момент искусственный интеллект станет умнее людей и приведет к уничтожению меня и вас?» — спросил Богдан Рымановский. В своем ответе профессор. Зибертович отметил, что "очень серьезные люди допускают такую возможность". Он также отметил, что в течение многих лет среди экспертов в области ИИ проводились опросы в этом вопросе и они указывают, что этот черный сценарий позволяет 5-10% респондентов неизменно.
Теоретически это небольшое число, но, как профессор. Зибертович отметил: «Если бы у какого-нибудь Боэнинга был показатель 5% от возможного сбоя, они бы никогда не согласились, что он может взлететь». Среди скептиков есть голоса, которые устанавливают индикаторы опасности ИИ на уровне 80% или даже выше 99%, и считают, что «если мы хотим вести себя рационально, исследования ИИ должны быть прекращены прямо сейчас». Они считают, что «нужно купить для человечества время на раздумья, потому что нынешние модели построены таким образом, что у них нет гарантий безопасности тормозов».
«Rymanowski Live» также посчитала, насколько она умна.
- Проблема в том, что профессионалы, обычно считающиеся наиболее известными, не имеют общей линии. Некоторые считают, что ИИ, который уже присутствует в чате GPT-4, имеет некоторые симптомы понимания языка. Но другие думают, что это полная чушь. Профессор. Зибертович здесь сослался на понятие «стохастическая бумага». «И теперь возникает вопрос, если кто-то имитирует, что у него есть сознание, как мы можем отличить кого-то, кто имитирует сознание, от сознания?» — спросил профессор. Проблема осознания и даже проблема того, будет ли ИИ более умным, чем мы, не является самой важной.
- Мы можем представить себе систему, которая совершенно не сознательна, которая не превышает познавательных возможностей человека, но более эффективна, чем мы в какой-то области, в каком-то аспекте, например, в военных играх, в плане манипулирования финансовыми рынками, в плане манипулирования человеком в каком-то узком разделе. Мой любимый аргумент в том, что вас обманул кто-то менее умный, и это обман вашего внука, обман, чтобы поговорить с банком. Должен ли парень, играющий в три карты, быть более образованным, чем тот, кого он обманывает? Нужен ли ему более широкий круг компетенций и интеллекта? Нет. Он специализируется только на одном, отвлекая и манипулируя человеком, с которым играет.
В отношении ИИ можно представить такой сценарий, что ИИ «будет развиваться сам по себе, или кто-то будет тренировать его для какого-то аспекта, который через год, через два, через три, с точки зрения, например, кризиса биоразнообразия, и этот аспект ИИ освоит так, что в этой области он будет манипулировать нами или случайно вводить нас в заблуждение». «Давайте представим, что будет какая-то климатическая дестабилизация, и кто-то скажет, что здесь у ИИ есть единственное решение, которое позволит нам справиться с этим в это время, но кто-то обучит его подделке данных», — добавил он.
Рымановский поинтересовался, какой самый мрачный сценарий может быть реализован, но не обязательно. Здесь профессор напомнил об исследовании Элиэзера Джудковски, который считает, что помимо риска ликвидации ИИ человечества (намеренно или случайно) есть и худший сценарий. Что? Профессор. Зибертович заявил, что с помощью генетических манипуляций или других методов лечения, о которых мы даже не знаем сегодня, можно было бы «загрузить человеческое сознание где-то в сети». Это будет «трансгуманист или постгуманист, оказавшийся в ловушке в пространстве страданий, из которого он не сможет выйти».
Представьте, что ИИ развивается, его много, у каждого есть личный помощник, и вдруг выясняется, что самые богатые люди смогли загрузиться в какую-то виртуальную реальность. Таким образом, они обретают бессмертие, потому что их можно копировать и копировать вечно, они могут испытать все волнение, которое связано с энергией молодого человека и утонченностью зрелого ума. И вдруг возникает ситуация, когда какая-то привилегированная группа людей живет в каком-то царстве бессмертия и бесконечного наслаждения. И в этот момент это социальное движение, которое обязано всем. Загрузка в порядке. Никакой аборт больше не в порядке, просто загрузка в порядке и должна быть доступна для всех. И оказывается, что если мы освоим какие-то новые источники энергии, возможно, для этого будут ресурсы. И есть большая операция, в нулевой час, мы все вместе, мы никого не оставляем позади, так что они не лучше, хуже и т.д. И после этой загрузки выясняется, что мы разумные существа, которые могут испытывать радость, страдание, беспокойство, волнение и тоску одиночества, но мы недееспособны. Мы не можем выйти из этого, и оказывается, что у нас есть чистое чувство способности чувствовать, потому что у нас нет возможности связаться с кем-либо из-за ошибки в процессе загрузки. Мы заперты в бесконечном мучении одиночества, - сказал профессор. Зибертович.
Ведущий программы указал, что это научная фантастика. Но, как отметил профессор, современные, реальные технологии, которые мы используем, были таким изобретением несколько лет назад. «Это технология, которую наука, которая является первой фантастикой, превращается в реальность», — добавил он.
Следует отметить, что это видение отличается от научной фантастики: оно нереально в смысле человеческого образа. «Загрузка» сознания подразумевает материализм, то есть возможность отделения «сознания» от человека, независимо от того, что человек является закладкой души и тела. Такие видения могут быть поняты только в парадигме неогностического атеизма, потому что с реалистической католической точки зрения ни один «аватар сознания» не был бы человеком. Зибертович говорит о том, что закрыться в бесконечном мучении одиночества просто невозможно. Если только это не все об аде, но это не требует ИИ.
Разговор Богдана Рымановского с профессором. Анджей Зыбертович «ИИ = враг человечества?» доступен на канале Rymanowski Live YT.
- Мы можем представить себе систему, которая совершенно не сознательна, которая не превышает познавательных возможностей человека, но более эффективна, чем мы в какой-то области, в каком-то аспекте, например, в военных играх, в плане манипулирования финансовыми рынками, в плане манипулирования человеком в каком-то узком разделе. Мой любимый аргумент в том, что вас обманул кто-то менее умный, и это обман вашего внука, обман, чтобы поговорить с банком. Должен ли парень, играющий в три карты, быть более образованным, чем тот, кого он обманывает? Нужен ли ему более широкий круг компетенций и интеллекта? Нет. Он специализируется только на одном, отвлекая и манипулируя человеком, с которым играет.
В отношении ИИ можно представить такой сценарий, что ИИ «будет развиваться сам по себе, или кто-то будет тренировать его для какого-то аспекта, который через год, через два, через три, с точки зрения, например, кризиса биоразнообразия, и этот аспект ИИ освоит так, что в этой области он будет манипулировать нами или случайно вводить нас в заблуждение». «Давайте представим, что будет какая-то климатическая дестабилизация, и кто-то скажет, что здесь у ИИ есть единственное решение, которое позволит нам справиться с этим в это время, но кто-то обучит его подделке данных», — добавил он.
Рымановский поинтересовался, какой самый мрачный сценарий может быть реализован, но не обязательно. Здесь профессор напомнил об исследовании Элиэзера Джудковски, который считает, что помимо риска ликвидации ИИ человечества (намеренно или случайно) есть и худший сценарий. Что? Профессор. Зибертович заявил, что с помощью генетических манипуляций или других методов лечения, о которых мы даже не знаем сегодня, можно было бы «загрузить человеческое сознание где-то в сети». Это будет «трансгуманист или постгуманист, оказавшийся в ловушке в пространстве страданий, из которого он не сможет выйти».
Представьте, что ИИ развивается, его много, у каждого есть личный помощник, и вдруг выясняется, что самые богатые люди смогли загрузиться в какую-то виртуальную реальность. Таким образом, они обретают бессмертие, потому что их можно копировать и копировать вечно, они могут испытать все волнение, которое связано с энергией молодого человека и утонченностью зрелого ума. И вдруг возникает ситуация, когда какая-то привилегированная группа людей живет в каком-то царстве бессмертия и бесконечного наслаждения. И в этот момент это социальное движение, которое обязано всем. Загрузка в порядке. Никакой аборт больше не в порядке, просто загрузка в порядке и должна быть доступна для всех. И оказывается, что если мы освоим какие-то новые источники энергии, возможно, для этого будут ресурсы. И есть большая операция, в нулевой час, мы все вместе, мы никого не оставляем позади, так что они не лучше, хуже и т.д. И после этой загрузки выясняется, что мы разумные существа, которые могут испытывать радость, страдание, беспокойство, волнение и тоску одиночества, но мы недееспособны. Мы не можем выйти из этого, и оказывается, что у нас есть чистое чувство способности чувствовать, потому что у нас нет возможности связаться с кем-либо из-за ошибки в процессе загрузки. Мы заперты в бесконечном мучении одиночества, - сказал профессор. Зибертович.
Ведущий программы указал, что это научная фантастика. Но, как отметил профессор, современные, реальные технологии, которые мы используем, были таким изобретением несколько лет назад. «Это технология, которую наука, которая является первой фантастикой, превращается в реальность», — добавил он.
Следует отметить, что это видение отличается от научной фантастики: оно нереально в смысле человеческого образа. «Загрузка» сознания подразумевает материализм, то есть возможность отделения «сознания» от человека, независимо от того, что человек является закладкой души и тела. Такие видения могут быть поняты только в парадигме неогностического атеизма, потому что с реалистической католической точки зрения ни один «аватар сознания» не был бы человеком. Зибертович говорит о том, что закрыться в бесконечном мучении одиночества просто невозможно. Если только это не все об аде, но это не требует ИИ.
Разговор Богдана Рымановского с профессором. Анджей Зыбертович «ИИ = враг человечества?» доступен на канале Rymanowski Live YT.
И сейчас мы также призываем вас взглянуть на все заявление профессора. Зибертовича, который он передал ПЧ24. Телевидение для реализации двух последних эпизодов нашего сериала "Властелин мира":
Уничтожит ли ИИ человечество? Профессор. Зибертович о сценарии страшнее, чем уничтожение - PCH24.pl
