Искусственный интеллект с нами навсегда. Алгоритмы, рекомендующие фильмы, системы кредитного рейтинга, инструменты анализа медицинских изображений – все это давно используется и спокойно работает на фоне нашей повседневной жизни. Но только в ноябре 2022 года, когда состоялся публичный релиз версии ChatGPT, ИИ действительно ушел под крышу. Она перестала быть делом инженеров, исследователей и технологических компаний, и стала темой разговора за кухонным столом, стала всерьёз обсуждаться в кабинетах госуправления или на заседаниях правления.
Всего за три года ИИ стал одним из главных вопросов деловой, политической и частной жизни.
Есть огромные надежды - на повышение производительности, прорывы в науке, доступ к знаниям, которых у нас еще не было. У него также есть серьезные опасения - о работе, об автономии человека, о качестве информации в публичном пространстве, о самой ткани человеческих отношений. Большинство публичных разговоров об ИИ вращается вокруг одного из этих двух полюсов или пытается сбалансировать их.
Однако под этими надеждами и страхами можно почувствовать нечто иное — впечатление, что мы были приведены в движение силой, превосходящей нас. Что мы приспосабливаемся к условиям, которые мы не установили. Даже энтузиасты искусственного интеллекта говорят о ней как о погоде — что-то, что просто происходит и должно быть настроено.
Стоит посмотреть на это впечатление, ведь оно важно. Это сигнал к потере субъективности.
ИИ перестал быть только технологическим инструментом и стал силой, формирующей дебаты о работе, знаниях, отношениях и человеческой автономии. Однако самый важный вопрос заключается не в том, сможем ли мы идти в ногу с ним, а в том, начнем ли мы терять собственную субъективность в процессе адаптации.
Три гонки, в которых мы участвуем
ИИ в той форме, которую мы знаем с конца 2022 года, заставляет нас соревноваться в трех параллельных гонках. У каждого своя логика, свои участники, свои ставки. У всех одинаково неудобное впечатление: что мы бежим, хотя и не можем сказать, что записались на этот бег.
Первый – это гонка навыков. Каждые несколько месяцев появляется новая модель, новый инструмент, новый метод работы с ИИ. Вы должны учиться все время, адаптироваться, освежить свои навыки. Офисные работники, программисты, врачи, юристы, учителя – все слышат, что им нужно бежать, чтобы не отставать. Тема «компетентности будущего» появляется в корпорациях, министерствах, университетах. Рынок труда, похоже, ускоряется, и вместе с этим растет давление на всех на этом рынке. Это самая заметная раса, о которой больше всего говорят и пишут.
Второе – это гонка за суждением. Если ИИ может делать так много — писать тексты, анализировать данные, программировать, решать логические задачи — ключевой компетенцией становится способность решать, что делать. Что мы должны публиковать в машине, что держать при себе, какие вопросы задавать, где искать ценности. Суд переходит от исполнения к руководству. Это гонка глубже, чем первая, потому что речь идет не о отслеживании изменений инструмента, а о сохранении компаса в мире, где производительность становится дешевой, а выбор дорогой.
Третья — это раса идентичности.Что значит быть человеком, когда машина может говорить с нами так, что трудно отличить ее ответ от человеческого? Когда он создает образы, музыку, тексты, на которые вопрос «кто это сделал?» перестает иметь четкий ответ? Но это поверхность. Под ним есть нечто более серьезное: человек сам меняет свои способности, свое внимание, свое представление о том, что достойно внимания. Мозг, который перестает писать, теряет эффективность. Воображение, которое перестает сталкиваться с пустой карточкой, теряет некоторую творческую силу. Эту гонку нельзя выиграть, тратя время, деньги или другие товары. Ставки — это не то, что мы выбираем, а то, кем мы становимся в одно и то же время — и будем ли мы когда-нибудь авторами собственной жизни.
Каждая из этих трех рас реальна. Все задают нам сложные вопросы. Но когда вы смотрите на то, как мы говорим о них – в СМИ, в отраслевых дебатах, в частных беседах – вы можете увидеть что-то тревожное. Большая часть этого разговора — это язык, на котором ИИ является актером. «AI навязывает темп». "Ай требует". "Ай меняет". "Ай переопределяет". Грамматически технология стала предметом предложений, а мы – бегунами в предложенных ею гонках.
А бегун, как известно, не устанавливает правил. Он не выбирает маршрут. Он не принимает решения о наградах. Он может бегать только быстрее или медленнее, умнее или отчаянно. Его роль, строго говоря, является предметом. Бегун бежит, хотя не выбрал ни маршрута, ни цели.
Именно это измерение эпохи ИИ ускользает от нас, потому что оно написано в самой манере обсуждения. Это не измерение конкретных угроз (потеря работы, дезинформация, концентрация власти) или конкретных надежд (повышение производительности, прогресс в медицине). Это более глубокое измерение: состояние человека, который говорит о себе так, как будто он уже согласился быть объектом.
Эпоха искусственного интеллекта вынуждает нас участвовать в трех гонках одновременно: за компетентность, суждение и идентичность, но самая важная ставка глубже - в поведении субъективности. Когда мы начинаем говорить о технологии как о силе, которая «навязывает», «требует» и «изменяет», легко упустить из виду момент, когда мы становимся только объектами процесса.
И это не тривиальный вопрос. Разница между тем, чтобы быть сущностью и быть объектом, является одним из самых важных различий, которые человек может рассматривать по отношению к себе. Философские и религиозные традиции тысячелетиями называли это различием между авторством и подчинением. Современная психология говорит о чувстве преступника как о фундаменте психического здоровья. Вера в то, что граждане являются действующими лицами, а не средствами управления, является основой демократической политики.
Если мы говорим об ИИ так, как если бы он работал через нас, то мы уже столкнулись с гораздо более высокой стоимостью, чем потеря нескольких профессий или необходимость переподготовки. Мы имеем дело с добровольным, хотя и незамеченным, отказом от субъективности. И это реальный показатель ИИ.
Однако материя имеет более глубокое измерение, потому что в действительности не ИИ лишает нас субъективности.
Кто на самом деле дает темп
Хотя говорят, что это навязывает ИИ, на практике это не делается ИИ. Тогда кто?
Вопрос кажется простым, но ответ на него требует различий. Потому что каждая из трех рас навязывается в другом режиме, другими механизмами.
Гонка компетенции. Именно в этой гонке риторика «ИИ навязывает темп» вводит в заблуждение. Офисный работник, сидящий перед экраном, не находится под давлением языковой модели. Языковая модель никого ничего не заставляет, никого не увольняет. Он находится под давлением конкретного работодателя, который в языковой модели видит способ сокращения занятости, затрат или времени реализации проекта. Это очень специфическое соотношение власти – между капиталом и работой – в котором «ИИ» служит удобной завесой.
Давайте посмотрим прямо. Когда мы говорим сотруднику: «Вы должны учиться постоянно, потому что ИИ» — мы делаем сразу три вещи. Прежде всего, мы размываем ответственность: вместо того, чтобы называть конкретное бизнес-решение (автоматизация деятельности, сокращение занятости в определенных коллективах), мы имеем в виду безличную силу. Во-вторых, мы оправдываем лиц, принимающих решения: поскольку они являются ИИ, никто не несет ответственности. В-третьих, мы смещаем стоимость изменения системы на единицу: рабочий должен адаптироваться, хотя это не влияет на решения, затрагивающие его.
Другими словами: «Давайте бежать быстрее, потому что ИИ» — это удобный забег, используемый теми, кто зарабатывает на этом беге. Инвесторы, ожидающие роста производительности от квартала к кварталу, технологические гиганты, для которых темп реализации является бизнес-моделью, консультанты, для которых страх остаться за этим источником заработка — все они заинтересованы в том, чтобы повествование звучало так, как оно звучит. Это не заговор, это просто механизм, отражающий интересы этих групп. Если общественное обсуждение принимает этот лозунг без размышлений, оно служит этим интересам.
Это не значит, что учиться не стоит. Это означает только, что вопрос «как бежать быстрее» является заменителем вопроса. Правильный вопрос: кто задает темп? За счет кого? Какие институты могли бы договориться об этом темпе? Где профсоюзы сегодня обсуждают ИИ? Где государственная политика, которая рассматривает преобразование работы как коллективную проблему, а не как индивидуальную обязанность? Эти вопросы недостаточно широко обсуждаются в Польше и Европе.
Гонка за суждение. Эта гонка является гибридной. Он имеет индивидуальное и коллективное измерение, и каждый из них управляется другой логикой. Индивидуальное измерение — вопрос о том, что делать с этим инструментом в своей жизни, работе, работе — имеет личностное измерение. Здесь никто ничего не навязывает. Здесь вы должны сидеть с самим собой и рассматривать внутренне: что меня волнует, какие вопросы задавать, где искать ценность, чтобы пойти со всем, что ИИ делает доступным для меня. Это вопросы, которые каждый из нас должен задать себе, и никто не может нам помочь.
Но гонка за суждение также имеет коллективное измерение — и здесь вопрос выглядит совершенно иначе. Вопросы о том, каким образом развивается сама технология, какие ее приложения поддерживаются, какие ограничены, какие ценности в нее встроены — это чисто политические вопросы. Здесь формула «ИИ требует от нас лучше судить» оказывается обманом. И он ничего от нас не хочет. У нас должно быть право решать его направление, но у нас нет этого права сегодня, потому что оно сконцентрировано в руках очень узкой группы акторов: нескольких американских и китайских компаний, группы инвесторов и политиков двух стран.
Европа, а тем более Польша, практически отсутствует в этой структуре принятия решений. Речь идет не об отсутствии технической компетентности, хотя это тоже реально. Это нечто более глубокое: отсутствие институтов. Сегодня у нас нет серьезного пространства, ни национального, ни европейского, в котором мы коллективно решали бы, что мы хотели бы использовать эту технологию и чего мы предпочли бы избежать. Правила, которые возникают (например, Закон ЕС об искусственном интеллекте), естественно, реактивны - они определяют, что запрещено и не стоит делать. Стратегии, политика и этические комитеты ИИ очень часто являются просто фасадами, они производят документы, которые мало что меняют. То же самое касается и так называемых общественных консультаций.
В результате мы принимаем ИИ как погоду: бывает, приходится приспосабливаться. Но технологии — это не погода, они построены. И когда одна сторона конструирует, а другая адаптируется, это не нейтральная динамика. Это отношение власти, в котором одни устанавливают условия жизни для других. Отсутствие коллективного суждения не означает, что нет никаких суждений. Это означает лишь то, что они выпускаются в других местах – в залах заседаний трех-четырех компаний, в лабораториях нескольких исследовательских центров, в стратегиях двух стран. И мы получаем готовые решения для реализации, завернутые в риторику неизбежности.
Гонка за идентичностью.Эту гонку труднее всего поймать, потому что она самая глубокая. Первые двое до сих пор знают, кто является субъектом: сотрудник, чтобы адаптироваться; гражданин, чтобы решить. В этом третьем объекте он также подвержен изменениям. Речь идет уже не о том, что мы выбираем, а о том, что осталось от нас, когда был сделан выбор, на заднем плане.
Вот почему эта гонка самая опасная. Не потому, что нет ни адреса для отправки протеста, ни компании для бойкота — хотя это правда. Опаснее всего то, что при изменении самих критериев исчезает способность распознавать, что мы что-то теряем. Потеря не похожа на потерю, она выглядит как прогресс.
Актерами, конечно, являются: дизайнеры интерфейсов, для которых каждый из облегченных кликов является успехом; компании, для которых наше привыкание к нему является бизнес-моделью; вся экономика внимания, которая готовила почву в течение двух десятилетий. Но в отличие от первой гонки, где указание актеров достаточно, чтобы назвать проблему - здесь указание актеров - только начало. Потому что даже если они исчезнут, изменение в нас и в культуре уже имеет свою динамику.
Искусственный интеллект не навязывает нам темп или направление изменений - это делается конкретными субъектами, интересами и институтами, которые используют технологии для формирования экономических, социальных и политических отношений. Самый большой риск — принять эти процессы как неизбежные, потому что тогда мы теряем способность решать не только, как мы используем ИИ, но и на кого мы становимся под их влиянием.
Переговоры о силах
Глядя издалека, можно увидеть, что ИИ сегодня используется для переопределения ключевых энергетических систем в современном мире: между работой и капиталом; между гражданином и властью; между государствами и крупными технологическими корпорациями; между клиентами и компаниями, которые используют ИИ для профиля и сегмента; между человеком и самой технологией и т. Д.
Это не плохо – каждая прорывная технология в истории была возможностью для такого пересмотра. Печать пересмотрела отношения между Церковью и верующими. Электричество — между тем, когда мы признаем, что день заканчивается и начинается ночь. Интернет – между журналистом и читателем. Однако на этот раз ставки чрезвычайно высоки, потому что ИИ затрагивает многие слои одновременно: экономический, политический, культурный и экзистенциальный.
ИИ становится инструментом для пересмотра важнейших соглашений сил — между работой и капиталом, гражданами и властью, государственными и технологическими корпорациями и, наконец, человеком и технологией. Эти отношения, безусловно, изменятся, но примем ли мы совместное решение об их новой форме или просто пассивно адаптируемся?
Переговоры, которые продолжаются сегодня, имеют одну тревожную особенность: они происходят в основном на одной стороне стола. Рабочие не ведут переговоры, потому что у них нет представительства. Граждане не ведут переговоры, потому что у них нет институтов. Европейские страны не ведут переговоры, потому что у них нет причин. И люди не ведут переговоры, потому что они часто даже не замечали, что переговоры начались.
Таким образом, вопрос не в том, изменит ли ИИ расстановку сил, потому что так оно и будет. Это как, будь то страница или просто тема.
Что мне с этим делать?
Если каждая из трех рас навязана по-разному, то каждая из них требует другого ответа. Одной формулы — будь то «Учись быстрее», «Освободи и думай» или «Давайте регулировать ИИ» — недостаточно для всех. Нам нужны три разные стратегии, адаптированные к природе каждой расы.
Гонка компетенции. Эта раса требует политического ответа в классическом смысле этого слова. Не индивидуальная мобилизация, а восстановление коллективной способности договариваться о темпах и условиях перехода работы. Это старые вопросы об отношениях капитала и труда — только в новой одежде. И, как и любой старый вопрос, это не отойдет от того факта, что мы им не говорим. Что именно должно измениться?
Во-первых, к публичному обсуждению должен вернуться вопрос о роли профсоюзов в экономике знаний. В таких странах, как Германия и страны Северной Европы, профсоюзы участвуют в создании условий для внедрения новых технологий, участвуют в принятии решений по автоматизации, оказывают реальное влияние на то, как трансформация распространяется с течением времени и кого это касается. В Польше профсоюзы практически не работают в тех секторах, где ИИ больше всего поражает – интеллектуальные услуги, ИТ, СМИ. Без институционального представительства работников в этих секторах их судьба полностью находится в руках работодателей.
Во-вторых, нам нужна государственная политика, которая рассматривает трудовую трансформацию как коллективную проблему. Речь идет не о блокировании изменений, а о распространении их с течением времени и обобществлении затрат. Программы переподготовки финансируются публично. Эксперименты с сокращением рабочей недели как формы распределения эффектов роста производительности труда. Базовый доход в ограниченном масштабе. Пересмотр отношений между занятостью, работой на платформе и самозанятостью. Все это темы, которые давно должны были быть на повестке дня, но почти совсем нет.
В-третьих, нужно расстаться с риторикой, на которую возлагается вся ответственность за адаптацию ИИ. «Все должны учиться постоянно» — это своего рода изящная жестокость в современном контексте. Обещает индивидуальное решение проблемы, которая является коллективной, и взимает плату за единицу за счет изменения, которое не затрагивается. Нужна современная система поддержки непрерывного обучения. 60-летний бухгалтер, кассир в супермаркете, редактор местной газеты — все они слышат, что им надо «держаться». Большинство из них не выдержат, не из-за отсутствия воли, а по структурным причинам.
Гонка за суждение. Вторая гонка требует институционального ответа. Не в нормативном смысле (хотя и регулирование необходимо), а в смысле перестройки мест, где мы коллективно решаем направления технологического развития.
Концепция, которую стоит ввести в польскую общественную дискуссию, — это технологическая демократия. Речь идет не о референдуме по каждому алгоритму, а о принципе, что решения о том, как технология формирует коллективную жизнь, должны приниматься демократическим путем - с участием гражданского представительства, а не только в узкой группе экспертов, инвесторов и чиновников.
На практике это означает необходимость создания новых институциональных решений, которые позволили бы широкому кругу граждан участвовать в поиске ответов на вопросы: «Как мы хотим, чтобы ИИ использовался в польской школе?», «Что мы хотим регулировать в области ИИ и здравоохранения?», «Какое применение ИИ в государственном управлении мы принимаем, а что нет?». В Польше у нас есть опыт работы с гражданскими панелями, поэтому есть над чем поработать.
Также необходим новый тип участия гражданского общества в ИИ. Сегодня НПО, занимающиеся ИИ, в основном представляют собой узкую группу по защите цифровых прав, и они делают это хорошо, но это слишком узко. Не хватает организаций, сочетающих техническую компетентность с вопросами о качестве работы, психическом благополучии, образовании, искусстве, демократии. Каждая из этих областей должна иметь своих компетентных представителей по вопросам ИИ, не связанным с технологическими компаниями.
И это самое главное для нас – Европа должна найти свою роль. Не в вычислительной гонке, которая не будет выиграна структурно (масштаб капитала, доступ к энергии, концентрация талантов на американской и китайской стороне), а в том месте, где ИИ лучше задуман - глубже внедрен в социальные институты, лучше интегрирован с плюрализмом ценностей, проверен на вопросы шире, чем квартальная производительность. Это требует как регулирования (а закон об искусственном интеллекте является первым шагом здесь), так и позитивного видения того, чего мы хотим от ИИ, а не только того, чего мы боимся.
Польша имеет возможность сыграть важную роль в этом европейском проекте - как страна с живыми посредническими институтами, незавершенной социальной традицией рыночной экономики, опытом системных преобразований, который учит думать об институтах как о чем-то, что строится и не заменяется. Но это требует чего-то, чего сегодня не хватает: осознанного решения, что мы хотим быть активным игроком. Мы не согласны быть просто рынком и «колонией данных» для решений, разработанных в других местах.
Гонка за идентичностью. Эта гонка требует ответа, который не может быть организован с политического уровня. Потому что проблема не политическая. Мы можем — по отдельности и коллективно — сохранить в себе то, что технология не заменит.
Каждая из трех рас, созданных развитием ИИ, требует различного ответа: политического ответа на изменения в работе, институционального ответа на технологические и культурные и личные направления на изменения в измерении идентичности. Общей целью этих стратегий должно быть восстановление причины, чтобы ИИ был не просто силой, к которой мы адаптируемся, а технологией, которую мы можем сознательно координировать.
На индивидуальном уровне речь идет об основной психической гигиене. Способность к молчанию. Не торопитесь думать. Писать без помощника. Чтение без резюме. Нет поиска в реальном времени. Прогулка без подкаста. Это вещи, которые человечество практиковало на протяжении тысячелетий и которые сегодня, в эпоху постоянной доступности ИИ, требуют осознанного решения.
Речь идет не об аскетизме или технофобии. Речь идет о сохранении способности проигрывать из-за пренебрежения. Эти изменения происходят медленно и в значительной степени обратимы, но только если вы заметите их.
Индивидуальной гигиены, однако, недостаточно, поскольку область обороны на уровне культуры сложнее. Более трех десятилетий назад Нил Постман описал этот уровень в своей книге. ТехнополияГосударство, в котором технология перестает быть инструментом и становится авторитетом, определяющим то, что мы считаем разумным вообще. То, что не может быть измерено, автоматизировано, сохранено в данных, перестает существовать. Почтальон тогда предупреждал, что свобода в такой культуре не берется силой; она растворяется в комфорте. Сегодня ИИ является кульминацией этой динамики, а не ее источником.
Вопрос в том, какие культуры устойчивы к эрозии субъективности, а какие уязвимы к субъективности. Общества, которые имеют сильные созерцательные традиции, богатую общинную жизнь, живые институты семьи, религии и искусства, имеют то, на чем они могут опираться. общества, в которых эти институты ослаблены, могут потерять свое присутствие быстрее, чем ожидалось.
Это указывает на неочевидность. Культурная политика, гуманистическое образование, поддержка местных сообществ, пространство для религии в публичном разговоре (как бы каждый из нас ни думал об этом в частном порядке), ценность свободного времени, не прерываемая экранами, — все в этой перспективе не только культурные, но даже стратегические вопросы. Потому что без них даже лучшим регулированием ИИ будет попытка остановить реку голыми руками.
Сущность как скорость
Все три ответа — политические, институциональные, экзистенциально-культурные — имеют общий корень. Каждый из них в своем собственном режиме является проявлением субъективности.
Во-первых, это восстановление занятости и гражданского участия в экономической сфере. Во-вторых, восстановить коллективное образование в сфере принятия решений о направлениях технологического развития. В-третьих, культивирование личной субъективности в интимном измерении повседневной жизни, мышления и языка.
Все три необходимы. Ни одного из них недостаточно. Но их общий знаменатель важен: каждый из них основан на допущении, которое сегодня не очевидно, что мы являемся сущностями, а не просто объектами процесса, включающего нас.
Мы должны помнить, что субъективность не дается нам раз и навсегда. Ты можешь потерять ее. И самое главное, его можно потерять не только насилием, но и комфортом. Не только потому, что кто-то что-то отнимает у нас, но и потому, что мы что-то отдаем себе, не зная, когда. Это то, что происходит в следующих областях, «захваченных» ИИ. Никто не отнимает нашу субъективность. Мы возвращаем ее — в грамматике, в приоритетах, в том, как мы организуем себе день, в микровалюте, которая навязывает друг другу недели и месяцы, они меняют нас самих.
Поэтому первым шагом является не регулирование, не технология и не политика. Это просто невозможно увидеть. Отмечая, кто является предметом предложений, мы описываем мир. Чтобы увидеть, кто выигрывает от такого повествования, а не от другого повествования. Обратите внимание, когда мы говорим «ИИ требует», хотя мы могли бы сказать более точно. Отмечая, когда мы публикуем машину, что-то, что мы действительно хотим сохранить для себя.
Реальная ставка эпохи ИИ — субъективность — способность поддерживать производительность в сфере работы, общественной жизни и повседневного выбора. Мы можем потерять его не только силой, но и удобством и без отражения технологических решений. Важно сознательно участвовать в переменах, а не пассивно отдаваться им.
Небольшой вопрос, заданный достаточное количество раз – кто? Обладает силой, которой не обладает ни одна технология. Потому что он вынуждает людей — и себя, и других — брать на себя ответственность за решения, которые предпочитают прятаться за безличным языком прогресса. Это не философский вопрос. Это основной инструмент гражданской самообороны в эпоху, когда технологии стали главным алиби власти.
У нас есть субъективность. Давайте не позволим себя лишить его добровольно и не будем отказываться от него сами. На наших глазах системы сил, в которых наши дети и внуки будут жить десятилетиями – между работой и капиталом, между гражданином и властью, между человеком и техникой и т.д. Переговоры не могут быть прекращены. Однако можно решить, участвуем ли мы в нем как партия или являемся его объектом. Субъективность — это специфическая ценность, и как только мы ее вернем, ее будет трудно восстановить.
