ИИ превращает нас в чайников?

Автор Чарльз Хью Смит в блоге OfTwoMinds,

Учитывая, что ИИ принципиально не способен выполнять задачи, необходимые для аутентичных инноваций. необучение Как внедрять инновации.

То, что ИИ превращает тех, кто его использует, в манекены, не только самоочевидно, но и неопровержимо. ЧатГПТ Может быть, разрушает навыки критического мышления, согласно новому MIT Исследование

"" Из трех групп, Пользователи ChatGPT имели самое низкое взаимодействие с мозгом и «постоянно отставали на нейронном, лингвистическом и поведенческом уровнях». В течение нескольких месяцев пользователи ChatGPT ленились с каждым последующим эссе, часто прибегая к копированию и вставке к концу исследования.

"" Задача была выполнена, и можно сказать, что она была эффективной и удобной, - говорит Космына. Но, как мы показываем в статье, вы в основном не интегрировали ничего из этого в свои сети памяти. "

ИИ разрывает связь между обучение и Выполнение академической задачи. С ИИ студенты могут проверить коробку - выполненную задачу, написанную и представленную бумагу - ничего не изучая.

И обучение Мы не имеем в виду Запомните фактоидВ смысле Как научиться учиться и Как научиться думать. Как объясняет автор Substack Maalvika в своей вирусной культуре сжатия эссе, которая делает вас глупыми и неинтересными, цифровые технологии сжали наше внимание с помощью того, что я бы назвал «вознаграждающим отвлечением», поэтому мы больше не можем читать ничего дольше, чем несколько предложений, не желая при этом отвлечься. резюме, выделение видео или звукового бита.

Другими словами, очень немногие люди будут читать статью MIT: TL / DR. Оригинальное название: Your Brain on ChatGPT (mit.edu)

Вот полная статья.

Ваш мозг на ChatGPT: накопление когнитивного долга при использовании ИИ-помощника для написания эссе.

Чтобы понять контекст, а также конечную точку исследования, мы должны начать с понимания. Структура обучения и мышления Это сложный набор процессов. Теория когнитивной нагрузки (CLT) Это структура, которая анализирует некоторые из этих процессов.

Теория когнитивной нагрузки (CLT), разработанная Джоном Свеллером, обеспечивает основу для понимания умственных усилий, необходимых во время обучения и решения проблем. Он идентифицирует три категории когнитивной нагрузки: внутренняя когнитивная нагрузка (ICL), которая связана со сложностью изучаемого материала и предшествующими знаниями учащегося; посторонняя когнитивная нагрузка (ECL), которая относится к умственным усилиям, налагаемым представлением информации; и материальная когнитивная нагрузка (GCL), которая является умственным усилием, посвященным построению и автоматизации схем, которые поддерживают обучение.

Проверка коробки «Задание выполнено» Нас ничему не учит. Фактические обучение и мышление требуют выполнения всей когнитивной работы, которую ИИ утверждает для нас: чтение исходных материалов, следование связям между этими источниками, поиск червоточин между различными вселенными знаний и мышление через претензии и предположения как независимый критический мыслитель.

Когда ИИ объединяет кучу утверждений и предположений как авторитетных, мы не получаем поверхностных знаний. ИИ обобщает, но без какой-либо способности отсеивать сомнительные утверждения и предположения, потому что у него нет никаких предположений. молчаливое знание контекстах.

Таким образом, ИИ извергает материал без какой-либо реальной когнитивной ценности, и студент шлепает его в бумагу, не изучая никаких реальных когнитивных навыков. Это когнитивный долг Никогда нельзя «отплатить», поскольку когнитивный дефицит длится всю жизнь.

Даже хваленая способность ИИ обобщать лишает нас необходимости развивать основные когнитивные способности. Как объясняет этот исследователь, «трудность» — это то, как мы учимся и учимся глубоко мыслить, а не поверхностное понимание материала для сдачи экзамена.

В Защите от тяжелой работы: ИИ выполняет свое обещание освободить людей от тяжелой работы. Но иногда, изгоняющая изнурительная работа может задушить инновации.

"" К сожалению, эта инновация подавляет инновации. Когда люди выполняют изнурительный поиск литературы, проверку цитирования и должную исследовательскую проверку — вещи, которые OpenAI утверждает для Deep Research — они случайно видят вещи, которые они не искали. Они основываются на идеях других людей, которые они раньше не рассматривали, и вдохновляются на формирование совершенно новых идей. Они также изучают когнитивные навыки, включая способность эффективно фильтровать информацию и распознавать расхождения в значении.

Я видел в своей области системного анализа, где десятилетиями исследователи цитировали информацию, которая была неправильной, и расширили ее в свое собственное увековечивающее мировоззрение. Критическое мышление заставляет исследователя не принимать работу, которую другие взяли за основу, и выявлять ошибку. Такие инструменты, как Deep Research, неспособны обнаружить основную истину и, таким образом, увековечивают неправильное направление в исследованиях. Это противоположность хорошей инновации. "

Таким образом, учитывая, что ИИ принципиально не способен выполнять задачи, необходимые для аутентичных инноваций. необучение Как внедрять инновации. То, что мы «учимся», — это замена поверхностно умного. моделирование Мы теряем основные когнитивные навыки, необходимые для инноваций.

Следуя легкому и удобному пути ИИ Моделирование инновацийМы действительно «тщательно падаем в обрыв». " Но так как это все TL/DR, то и нет. резюме, выделение видео или звукового битаМы даже не видим этого.

Итак, вот краткое изложение «малюшек» TL/DR: ИИ превращает нас в манекены.

** **

Ознакомьтесь с моей новой книгой «Ультрапроцессированная жизнь» и моими обновленными книгами и фильмами.

Станьте меценатом моей работы за 3 доллара в месяц через patreon.com

Подпишитесь на мой Substack бесплатно