Умные города: мечты, способные стать кошмарами

Стратегическая статья о данных, идентификации в умных городах

Люсьен Бего, и Джессика Хазрик, Amnesty Tech

Город Масдар , Сонгдо и PlanIT Valley . Никогда не слышал о них? Это нормально — два из этих проектов никогда не выходили за рамки рабочего стола. Тем не менее, среди энтузиастов «умного города» они являются именами нарицательными. Сонгдо, возможно, был единственным проектом, воплотившимся в городе, но все эти прототипы отражают утопические видения, представленные в проектах умного города. Устойчивость, взаимосвязанность и оптимизация услуг приводятся к присяге этой многообещающей земли — но умные города обходятся без затрат на права человека?

Ранее на этой неделе дочерняя компания Alphabet Sidewalk Labs опубликовала долгожданный генеральный план на 1500 страниц для нового масштабного строительства умного города в прибрежном районе Торонто. Проект объединяет две стороны дебатов вокруг умных городов. С одной стороны, компания обещает «глобальную модель инклюзивного роста городов», которая обеспечит рабочие места и будет благоприятной для климата. С другой стороны был припадок проблем конфиденциальности от групп сообщества к бывшему генеральному директору Blackberry , причем автор Шошана Зубофф назвал проект «линией фронта исторического соревнования между надзирательным капитализмом и демократией».

Какие умные города?

В последние 10-15 лет умные города становятся все более популярными в городском планировании. Отрасль растет с поразительной скоростью , и решения «умного города» внедряются во всем мире и все чаще на развивающихся рынках — часто при поддержке Организации Объединенных Наций в рамках таких инициатив, как программа « Объединенные умные города» .

Эти города представлены как «умные», потому что они способны через сеть взаимосвязанных устройств и новую инфраструктуру собирать данные об окружающей среде, которую они размещают и отслеживают, отвечают, сообщают и / или корректируют соответственно. Маркетинговые материалы частных провайдеров, таких как IBM , Oracle и CISCO, используют изящный язык для создания фантастических видений городов — Sidewalk Labs представляет свое предложение в Торонто как «город мечты завтрашнего дня» .

Если смотреть дальше риторики, то умные города в основном ориентированы на предоставление ориентированных на данные решений городских проблем. Действительно, умные города являются симптомом Интернета вещей — расширяющейся сети устройств, соединенных через Интернет, от интеллектуальных холодильников до интеллектуальных систем отопления, что позволяет им общаться с пользователями и разработчиками, приложениями и друг с другом посредством сбора и обмена данными из их контролируемая среда.

Тот факт, что умные города зависят от отслеживания и анализа огромного количества ранее неиспользованных данных о перемещениях и деятельности городского населения, означает, что, какими бы привлекательными ни были представления об умных городах, они в основном остаются утопическими и на практике могут быстро стать антиутопическими. , Преимущества умных городов хвалили, громко и ясно. Но правда в том, что внедрение полностью интегрированных технологий, ориентированных на данные, в городской инфраструктуре и управлении представляет серьезную угрозу для прав человека.

Конфиденциальность в публичном пространстве — дело прошлого?

Совокупность данных, собранных с помощью датчиков и камер «умного города», обнаруженных на мусорных баках , светофорах, уличных фонарях, крышках люков , видеонаблюдении и « бесплатном» WI-FI, может создать все более широкую систему наблюдения , угрожающую конфиденциальности, свободе выражения мнений и убеждений, и мирное собрание, и разжигание дискриминации.

Поскольку города собирают большие объемы персональных данных о жителях, зачастую без их ведома или согласия , право на неприкосновенность частной жизни в общественных местах становится более эффективным. Смартфоны ускоряют сбор данных, обмениваясь, например, данными о географическом местоположении и цифровыми взаимодействиями с мобильными приложениями и провайдерами WI-FI, которые, в свою очередь, могут обмениваться данными с другими поставщиками услуг. Соответственно, все более взаимосвязанный и цифровой характер городских служб означает, что сам факт нахождения в общественных местах приводит к обмену данными.

Такая инфраструктура может предоставить государственным правоохранительным органам и органам безопасности совершенные инструменты для навязчивого отслеживания этнических меньшинств или других защищаемых групп и установления их целей. В Китае умные города в Синьцзян-Уйгурском автономном округе (СУАР) уже являются частью систематического надзора и репрессий со стороны государственных властей со стороны мусульманских этнических групп в регионе. Распознавание лица и походки в сочетании с системой видеонаблюдения за пределами мечетей и с использованием новых технологий искусственного интеллекта (ИИ) и аналитики позволяет властям СУАР поддерживать «состояние цифровой полиции ».

Частные компании также стремятся использовать привлекательные данные для получения коммерческой выгоды. Исследование Amnesty Tech, посвященное миру брокеров данных и тому, как данные о потребителях в США могут быть использованы для описания мусульман, иллюстрирует потенциальный ущерб от дальнейшей коммерциализации данных с помощью решений для умных городов. Как объясняется в статье: «Каждый раз, когда вы используете свою кредитную или дебетовую карту, включайте WI-FI на своем мобильном телефоне, читайте новости в Интернете, ставьте флажок« Общие положения и условия », авторизуйте приложение для доступа к своим учетным записям в социальных сетях… шансы есть. это компания, или несколько, которая борется за ваши данные ».

Неизбежно, что брокеры данных будут предлагать цену за данные, собранные с помощью городских датчиков, особенно с учетом личного и подробного характера этих данных. Помимо очевидных угроз для конфиденциальности, коммерциализация данных «умного города» может также привести к дискриминационному профилированию.

Важно отметить, что точно так же, как Facebook владеет данными своих пользователей, провайдеры умных городов часто владеют данными, собранными с помощью своих датчиков. В Торонто Sidewalk Labs стремится подавить растущие протесты против проекта, заверяя, что огромное количество произведенных данных не будет контролироваться компанией, а будет управляться независимым Urban Data Trust. Но многие по- прежнему подозревают , можно ли доверять компании, которая делится своим родителем с Google, столь ценный транш данных о гражданах.

Эксперт по вопросам конфиденциальности Энн Кавукян, которая в прошлом году уволилась с должности советника Sidewalk Labs в знак протеста против опасений, связанных с надзором, говорит, что у генерального плана все еще есть фундаментальные недостатки в отношении деидентификации данных, а именно — обеспечение того, чтобы любые собранные данные не могли быть связаны с конкретными лицами. Это жизненно важный вопрос, потому что без надежных мер защиты на удивление легко « повторно идентифицировать » анонимные данные — и даже, казалось бы, безвредные данные могут вывести очень личную информацию о человеке.

Но даже прежде, чем вступать в дебаты о методах управления данными, возникает более фундаментальный вопрос: должны ли мы вообще принимать тенденцию к отслеживанию, анализу и монетизации все большего и большего количества данных о нашей деятельности, примером которых являются умные города? Это лежит в основе бизнес-модели таких компаний, как Google и Facebook, известной как «надзорный капитализм» .

Проблемы частного в публичном

Развитие инноваций умного города в значительной степени зависит от частного сектора . Большинство городских советов, по крайней мере на начальном этапе, полагаются на частные компании для разработки и реализации проектов «умного города». Как таковые, эти проекты, как правило, предназначены для стимулирования «надзора за капитализмом», а именно для накопления обширных хранилищ данных о деятельности людей и добычи данных для прогнозирования и влияния на поведение, в конечном итоге для получения прибыли за счет рекламы.

Как объясняет Сара Дели-Эспости, почетный научный сотрудник Университета Ковентри, «мы не можем понять умные города, не говоря о бизнес-моделях цифровых гигантов (например, Google, Amazon, китайский Baidu, Alibaba, Tencent). Эти корпорации уже являются глобальными структурами, которые в значительной степени избегают государственного контроля. Какой уровень контроля местные власти ожидают от этих игроков? »

На самом деле контроль правительств над этими техническими гигантами очень мал. По мере того, как технологические достижения и инфраструктура данных переходят к управлению городом, результатом может стать полная передача государственных услуг технологическим гигантам. «Все потому, что», как полагает Degli-Esposti, «местное правительство потеряло бы права собственности на непонятные, многоуровневые системы данных, разработанные за эти годы, и было бы неспособно их эксплуатировать». Хотя такие подробные данные в руках местного правительства могут также угрожать правам человека, эти имущественные вопросы создают риски, которые могут снизить общественный контроль над управлением и управлением их собственными городами.

Частно-государственные партнерства часто связаны соглашениями о конфиденциальности, заключенными по причинам, связанным с запатентованным характером технологии. Это явно мешает гражданам тщательно изучать системы, устанавливаемые в их городах и используемые ими и на них. Неразборчивость этих патентованных закрытых моделей вызывает серьезные опасения в отношении подотчетности и прозрачности, связанных с использованием этой технологии.

Аналогичным образом, проблема « черного ящика » ИИ — тот факт, что процесс принятия решений за новыми алгоритмическими технологиями часто не будет отслеживаться ни теми, кто его применяет, ни теми, кто его затрагивает, — еще больше затеняет так называемые решения «умного города». и создает дефицит доверия.

Бизнес-модель самого надзорного капитализма все чаще и чаще — беспрецедентный уровень сбора данных и концентрация власти на нескольких неподотчетных компаниях — подвергается тщательному анализу, поскольку в корне нарушает права человека. Мы должны спросить, нужно ли собирать столько данных в первую очередь.

Правозащитный подход

Права человека должны быть в центре планов развития «умных» городов. Государственные служащие должны иметь глубокое понимание технологий, с которыми они заключают контракты, и обеспечивать соблюдение спецификаций государственных закупок, которые защищают от неправомерного или неправомерного использования технологий. Технология должна иметь гарантии для обеспечения того, чтобы ее использование соответствовало стандартам в области прав человека. В конечном счете, люди, чьи права будут затронуты этими технологиями, должны иметь возможность контролировать, будут ли и как эти новые технологии использоваться посредством значимого общественного контроля, консультаций и контроля.

Довольно уникальный случай с Барселоной подчеркивает, насколько мощным может быть гражданский, демократизированный и умный городской проект. Модель умного города, которой придерживалась Барселона, объединяет гражданское участие с новой правительственной инфраструктурой и появляющимися технологиями. Умный город Барселона состоит из трех компонентов: платформы для сбора данных с открытым исходным кодом и сенсорной платформы Sentilo; вторая платформа с открытым исходным кодом, которая обрабатывает и анализирует данные, называемая CityOS; и уровень пользовательского интерфейса сервисных приложений, который обеспечивает доступ ко всем данным.

Поскольку вся цифровая инфраструктура городской модели Барселоны имеет открытый исходный код, этот дизайн помогает снизить вышеупомянутые риски приватизации, основанной на прибыли, и закрытого программного обеспечения, в то же время позволяя гражданам требовать коллективного владения своими данными. Все полученные данные доступны как для граждан, так и для частных компаний и заинтересованных сторон, однако город и его жители совместно определяют параметры надлежащего доступа, которые сохраняют конфиденциальность и, следовательно, сохраняют окончательную коллективную собственность на данные в городе.

Пока еще неизвестно, будет ли эта модель эффективной для защиты от рисков, связанных с правами человека, дизайн «Барселоны» остается исключением, а не правилом. Частные компании по-прежнему, чаще всего, руководствуются договорными условиями и диктуют регулирующие процессы, в то время как государственным служащим часто не хватает необходимых знаний и опыта, чтобы оспаривать их. В Торонто, теперь городские власти должны решить, доверять ли взгляду Sidewalk Labs на будущее.

В конечном счете, единственные способы, которыми умные города могут выполнить свое утопическое обещание, — это с самого начала разрабатывать их таким образом, чтобы укреплять права и свободы. Пока эти проекты разжигают государственные репрессии или следуют за неослабевающим движением надзорного капитализма, они будут служить только дальнейшему расширению прав и возможностей больших технологий и правительств в ущерб правам городов и людей.

Источник:

https://www.amnesty.org/en/latest/research/2019/06/smart-cities-dreams-capable-of-becoming-nightmares/

Добавить комментарий

Этот сайт использует Akismet для борьбы со спамом. Узнайте как обрабатываются ваши данные комментариев.