Пока политический цирк и война с Ираном отвлекают нас, Флок строит цифровое полицейское государство

Вы, должно быть, жили — вы жили привычкой, которая стала инстинктом, — предполагая, что каждый звук, который вы издаете, подслушивается, и за тьмой каждое движение тщательно подвергается. Джордж Оруэлл, 1984

В то время как американцы по-прежнему очарованы политическим цирком — подбадривая в честь своей любимой партии, высмеивая оппозицию, одержимые каждым созданным возмущением и ожидая другого выступления — государство наблюдения продолжает свой непрерывный марш вперед.

Правительство наблюдает.

Он наблюдает, куда вы идете, с кем встречаетесь, чему поклоняетесь, каких посетителей посещаете, какие политические митинги посещаете, какие протесты посещаете, какие книги читаете, какие страницы посещаете и какие вопросы поддерживаете.

Он смотрит на ваш телефон, автомобиль, дверной звонок, бытовую технику, покупки, учетные записи в социальных сетях и камеры, расположенные вдоль ежедневных дорог.

Вот как умирает свобода в цифровом полицейском государстве: не всегда драматическими объявлениями о военном положении или солдатами, развернутыми на каждом углу, но постепенно строящими технологическую сеть — электронный концентрационный лагерь — настолько вездесущий, что конфиденциальность становится невозможной, но анонимность подозрительна.

на сцене Безопасность стада входитЧастная технологическая компания в индустрии видеонаблюдения, чьи автоматические считыватели номерных знаков распространились на тысячи американских общин.

Эти камеры, которые делают гораздо больше, чем просто фотографируют номерные знаки. Еще одна эволюция партнерства правительства по государственному и частному надзору.

Они документируют время и место каждого проезжающего автомобиля и регистрируют такие характеристики, как марка, модель, цвет, повреждение, багажники крыши, наклейки на бампер и другие характерные особенности. Эта информация затем может быть помещена в базу данных для поиска и использоваться для отслеживания движения транспортного средства с течением времени.

Но реальная сила и реальная угроза — это не только камеры.

Это происходит от искусственного интеллекта.

Камера может сфотографировать автомобиль. Платформа Flock, основанная на искусственном интеллекте, может идентифицировать и классифицировать транспортное средство, сравнивать наблюдения с сохраненными документами, генерировать оповещения, выявлять соединения и помогать полиции воссоздавать местоположение, где находилось транспортное средство.

Этот ИИ превращает фотографию в основу подозрительного общества.

Благодаря ИИ каждый драйвер становится точкой данных. Каждая точка данных становится шаблоном. И каждая модель становится подозреваемой.

Таким образом, обычные движения становятся потенциально подозрительными и подлежат государственному контролю. Позволяет органам по заказу искать не только полный регистрационный номер, но и частичные таблички и физические описания, такие как цвет автомобиля, марка, модель, повреждение, багажники крыши, наклейки на бампер и другие характеристики.

Полицейский может попросить систему найти любой красный пикап с лестницей, замеченной рядом с протестом, любое транспортное средство, которое неоднократно посещало адрес, или любой автомобиль, замеченный при пересечении двух мест.

Искусственный интеллект занимается сортировкой. База данных содержит историю.

Правительство получило список потенциальных подозреваемых.

Это больше не контролируется отдельными офицерами, следуя конкретным указаниям. Это наблюдение со скоростью машины, по всему населению, с алгоритмами, определяющими, чьи движения заслуживают дальнейшего контроля.

Рассмотрим масштаб происходящего.

Камеры, записывающие пластины В настоящее время они регистрируют около 20 миллиардов сканирований автомобилей в месяц..

Двадцать миллиардов.

Это не целевая полиция. Это массовая коллекция.

Подавляющее большинство этих сканирований не касаются украденных автомобилей, разыскиваемых подозреваемых, похищений или насильственных преступлений. Они документируют повседневную деятельность обычных людей: приход на работу, вождение детей в школу, посещение друзей, посещение церкви, медицинские визиты, посещение протестов или просто возвращение домой.

Однако каждое из этих невинных путешествий становится частью поисковой базы данных полиции.

С 20 миллиардами сканирований в месяц Флок не ищет конкретных подозреваемых, а затем пытается их отследить. Он записывает движения каждого, чтобы полиция могла позже решить, за кем он хочет следовать.

Это цифровой эквивалент назначения правительственного агента для отслеживания каждого водителя в Америке и хранения заметок агента на случай, если правительство когда-либо сочтет их полезными.

Однако массовый сбор является лишь первым этапом состояния наблюдения за ИИ. Следующий шаг — объединить эти миллиарды наблюдений со всем, что правительство и его корпоративные партнеры знают о нас.

Стая также является частью гораздо более крупного перехода к искусственный интеллект «слияние данных», в котором записи номерных знаков сочетаются с результатами распознавания лиц, записями наблюдения, политическими отчетами, деятельностью в социальных сетях, коммерчески приобретенной информацией, оповещениями об обнаружении выстрелов и другими правительственными базами данных.

Опасность заключается не только в том, что одна система может отслеживать автомобиль. Это сочетание ранее отдельных потоков информации в одну систему, способную отображать движения, отношения, привычки и ассоциации данного человека.

Эти системы делают все больше, чем просто предоставляют чиновникам информацию для оценки. Они приписывают важность отношениям, указывают на предполагаемые угрозы и порождают следственные действия — часто с помощью собственных алгоритмов, которые ни обвиняемый, ни общественность не могут расследовать.

Искусственный интеллект не устраняет человеческие предрассудки, институциональные предрассудки или плохую информацию.

Это их индустрия.

Дайте неисправную систему для неточных данных, записей о частичном аресте или подозрительного наблюдения, и ИИ сможет воссоздать эти недостатки со скоростью и масштабом, с которыми не сможет сравниться ни один полицейский.

Как только компьютер указывает на кого-то подозрительного, офицеры могут рассматривать алгоритмическое движение как объективный факт.

Машина обвиняет. Полиция работает. Гражданин должен доказать, что машина неправильная.

Несмотря на необычайный размах этой технологии, Flock продолжает представлять свою систему как ограниченный, тщательно контролируемый инструмент борьбы с преступностью.

Флок настаивает на том, что его камеры собирают информацию о транспортных средствах, а не о людях, которым агентства контролировали доступ к своим собственным данным, чтобы поисковые запросы были записаны, а информация обычно удалялась через 30 дней. Однако эти заверения в значительной степени сводятся к различиям без различия.

Транспортные средства являются продолжением людей, которые управляют ими.

Если вы достаточно долго следите за транспортным средством, вы знаете, где его владелец спит, работает, молится, ходит по магазинам, встречается в обществе, обращается за медицинской помощью и участвует в политической деятельности.

Знаете, когда кто-то выходит из дома, когда они возвращаются, кого они посещают и как часто.

Вы можете не знать содержания их разговоров, но вы знаете достаточно, чтобы создать интимный портрет их жизни.

Это наблюдение.

Он не становится менее инвазивным только потому, что правительство заказало камеры, базы данных и алгоритмы у частной корпорации.

Он также не перестает быть следствием, потому что полиция говорит, что эта информация может оказаться полезной при раскрытии преступления.

Именно этот трюк позволил вашему наблюдению развиваться так быстро.

Правительство больше не должно устанавливать каждую камеру, поддерживать каждую базу данных или напрямую собирать любую информацию.

Это только поощряет частные компании, предприятия, ассоциации домовладельцев, школы и отдельных потребителей создавать соответствующую экосистему наблюдения, а затем запрашивает доступ.

Это государственно-частное соглашение позволяет правительственным учреждениям приобретать возможности, которые никогда не могли бы получить одобрение общественности или достаточные ресурсы для самостоятельного строителя.

Это делает ответственность практически невозможной.

Когда происходит злоупотребление, местная полиция обвиняет поставщика технологий. Поставщик технологий настаивает на том, чтобы местная полиция контролировала данные. Федеральные органы заявили, что они только запросили доступ. Местные чиновники говорят, что они не знали, что информация может быть доступна за пределами их юрисдикции.

Они все указывают куда-то еще.

Тем временем американская нация остается под наблюдением.

Flock стал особенно спорным, потому что его сеть может превратить то, что кажется коллекцией местных камер, в нечто гораздо более мощное: поисковую систему наблюдения, которая позволяет правоохранительным органам выходить далеко за пределы своей юрисдикции.

Flock утверждает, что обмен данными между агентствами является необязательным и контролируется клиентами. Однако вся ценность такой системы заключается в ее взаимосвязанности.

Камера в одном городе представляет собой устройство мониторинга движения.

Тысячи камер, подключенных с помощью поисковых баз данных, создают сеть отслеживания трафика.

Опасность заключается не только в том, что полиция может искать украденную машину.

Опасность заключается в том, что система позволяет государственным чиновникам начинать с места, описания или фрагмента информации и работать в обратном направлении, пока кто-то не станет подозреваемым.

Это противоречит традиционному конституционному порядку.

Согласно четвертой поправке, полиция должна выработать индивидуальные подозрения, показать вероятную причину, а затем запросить ордер на поиск доказательств, связанных с конкретным лицом или преступлением.

Системы массового наблюдения начинаются с сбора информации обо всех.

В этом процессе каждый невинный человек рассматривается как потенциальный подозреваемый, чьи перемещения должны быть зарегистрированы в случае, если правительство когда-либо сочтет их уместными.

Это вина алгоритма.

Это та же конституционная инверсия, которая является сердцем приказов геозоны, которые позволяют полиции требовать информацию, идентифицирующую каждый сотовый телефон, который только что оказался рядом с данным местом в определенное время.

Недавнее решение Верховного суда США по Чатри против Соединенных Штатов Это может сигнализировать о том, что конституционный контроль, наконец, догоняет государство наблюдения.

Дело касалось ордера на геозону, используемого для получения записей о местонахождении сотового телефона вблизи места ограбления. Вместо того, чтобы начать с идентифицированного подозреваемого, полиция потребовала информацию об устройствах, которые только что находились в указанном районе в течение определенного периода времени, а затем отступила, чтобы идентифицировать их владельцев.

Верховный суд постановил, что полиция проводит обыск на основании четвертой поправки, когда они получают историю местоположения мобильного телефона человека от технологической компании.

Это предложение имеет значение.

Он отвергает все более удобный аргумент правительства о том, что интимная информация теряет конституционную защиту только потому, что частная корпорация собирала, хранила или анализировала ее.

Суд не вынес решения по камерам Flock или автоматизированным базам данных номерных знаков. Она также не решила, что каждый запрос геозоны обязательно является неконституционным. Судьи покинули Четвертый округ, чтобы решить, соответствует ли приказ требованиям Четвертой поправки в отношении вероятной причины и, в частности, на каждом этапе обыска.

Конституционный принцип, лежащий в основе Чатри Это выходит далеко за рамки мобильных телефонов.

Правительство не должно избегать четвертой поправки, предписывая массовый надзор со стороны частных технологических компаний.

Не имеет значения, идет ли след местоположения от Google, Flock, оператора мобильной связи, брокера данных или подключенной сети частных камер.

Детальная запись движений человека не становится менее показательной, когда он следует за автомобилем, а не за телефоном. Правительству не должно быть позволено осуществлять то, чего Флок не мог достичь конституционно, назначая полицейских для отслеживания миллионов американцев, где бы они ни находились.

На самом деле, Flock может быть еще более тревожным изменением конституционного полицейского надзора.

Обыски обычно начинаются с конкретного преступления, места и периода. Flock постоянно собирает информацию о миллионах транспортных средств, прежде чем совершить какое-либо преступление.

Затем полиция может оглянуться на эту записанную историю и воссоздать движения человека.

Сначала идет наблюдение. Подозреваемые появляются позже.

Ордер может появиться только после того, как правительство уже создало базу данных, которую оно намерено искать.

Чатри может предоставить конституционные боеприпасы для оспаривания этого решения, но Ни одно отдельное судебное решение не разобьет механизм массового надзора..

Эта технология уже внедрена в тысячи сообществ.

Базы данных уже заполняются.

Агентства уже подключены.

И компании, получающие прибыль от этой инфраструктуры, будут бороться за ее поведение.

К сожалению, конституционная безопасность редко соответствовала аппетиту правительства к слежке.

Опасности уже не теоретические.

По сообщениям, данные о стае использовались в расследованиях, далеких от серьезных насильственных преступлений, которые обычно ссылаются на оправдание этих систем.

Это неизбежная траектория любой технологии наблюдения. Во-первых, он вводится в качестве экстренной меры. Тогда он оправдан как инструмент борьбы с преступностью. Затем он распространяется на более мелкие преступления. Затем он используется для обеспечения соблюдения административного права, политического мониторинга, иммиграционных расследований и личных целей.

В конце концов, он становится частью фона правительства — постоянным элементом повседневной жизни, который перестает привлекать внимание, потому что все привыкли к тому, что за ним наблюдают.

Вот как работает миссия гадюки..

Полномочия надзора, предназначенные для выявления похитителей и насильственных преступников, не ограничиваются похитителями и насильственными преступниками.

Базы данных, предназначенные для обнаружения украденных транспортных средств, не ограничиваются украденными транспортными средствами.

Правительственные учреждения не могут устоять перед соблазном использовать имеющуюся власть, особенно когда она дешева, легка и в значительной степени скрыта от общественности.

Потенциал этой технологии для совершения ошибок делает ее еще более опасной.

Считыватели номерных знаков могут неправильно читать номера, полагаться на неточные активные списки или связывать невинное транспортное средство с преступлением. Когда система выпускает предупреждение, сотрудники могут рассматривать полученный компьютер как факт.

Лицо на принимающей стороне может быть задержано, окружено вооруженной полицией, заковано в наручники, подвергнуто обыску или задержано до того, как кто-либо обнаружит, что машина ошиблась.

Это не правосудие. Это автоматические подозрения.

Flock - это только один элемент экосистемы наблюдения, который включает в себя колокольные камеры, распознавание лиц, беспилотные летательные аппараты, отслеживание сотовых телефонов, биометрические базы данных и центры преступности в реальном времени.

Эффект Слежка 360 градусов.

Человек может покинуть дом, контролируемый интеллектуальным колоколом, проехать мимо сети считывателей номерных знаков, войти в компанию, оснащенную распознаванием лиц, взять телефон с данными о местоположении и вернуться домой по улицам, контролируемым полицейскими камерами и частными системами безопасности.

Ни в коем случае правительство не должно физически следовать за этим человеком, потому что инфраструктура делает это автоматически.

Алгоритмы сортируют информацию. Базы данных сохраняют его. Частные компании его создают. Правительственные органы его обыскивают.

Все это происходит, пока страна остается в ловушке бесконечной партийной клетки.

Обе стороны внесли свой вклад в создание надзорного государства. Обе стороны расширили его. Обе стороны использовали страх, чтобы убедить общественность, что свобода должна быть принесена в жертву безопасности.

Цели могут меняться в зависимости от того, кто находится у власти, но механизмы остаются.

Как только инфраструктура уже существует, нет никакой гарантии, что она будет использоваться только против людей, которых вы не любите или не согласны с политикой.

Это урок, который американцы неоднократно отказываются усвоить.

Инструмент контроля, созданный одной администрацией, будет унаследован следующей. База данных одной цели неизбежно будет использоваться для другой. Система, созданная для мониторинга «их», в конечном итоге будет обращена против «нас».

Общественность по всей стране, наконец, начинает видеть угрозу.

Некоторые города расторгли или отказались продлевать контракты с Flock. Другие приостановили внедрение или потребовали ужесточения ограничений на обмен данными, хранение и федеральный доступ.

Это сопротивление давно необходимо.

Мы не можем позволить себе настолько отвлекаться на театр политики, чтобы не заметить архитектуру тирании, которая строится вокруг нас.

Надзорному государству все равно, какую партию вы поддерживаете. Ему все равно, за кого ты голосовал.

Ему все равно, если ты думаешь, что тебе нечего скрывать.

Камеры смотрят. Базы данных растут. Сети подключаются.

Как я четко подчеркиваю в Оригинальное название: Battlefield America: The War on the American Люди и их вымышленный аналог Дневники Эрика БлэраЕсли мы не будем действовать сейчас, скоро может некуда пойти, не зная точно, где мы были.