ICO Великобритании предупреждает об угрозе слежки за "большими данными" распознавания лиц вживую на публике

червня 21st, 2021 Журнал «Предприниматель»

Главный регулирующий орган Великобритании по защите данных предупредил о безрассудном и ненадлежащем использовании распознавания лиц в общественных местах.

Публикуем сегодня мнение об использовании этого биометрического наблюдения в общественных местах – чтобы изложить то, что называется в качестве «правил взаимодействия» – комиссар по информации Элизабет Денхэм также отметила, что ряд расследований, уже проведенных ее офисом в отношении запланированных применений технологии, выявил проблемы во всех случаях.

«Я глубоко обеспокоен возможность использования технологии распознавания лиц в реальном времени (LFR) нецелесообразно, чрезмерно или даже безрассудно. Когда конфиденциальные личные данные собираются в массовом масштабе без ведома, выбора или контроля людей, последствия могут быть значительными », – предупредила она в своем блоге.

« Мы видели, что мы видели, как решение проблем общественной безопасности и создание биометрических профилей. для нацеливания на людей персонализированной рекламы.

«Показательно, что ни одна из организаций, участвовавших в наших завершенных исследованиях, не смогла полностью оправдать обработку, и из тех систем, которые были запущены, ни одна не полностью соответствовала требованиям защиты данных закон. Все организации предпочли прекратить или не продолжать использование LFR ».

« В отличие от CCTV, LFR и его алгоритмы могут автоматически идентифицировать вас и вывести конфиденциальные данные о вас. Его можно использовать для мгновенного профилирования вас для подачи персонализированной рекламы или сопоставления вашего изображения с изображениями известных воров, как вы делаете еженедельный продуктовый магазин », – добавил Денхэм.

« В будущем существует возможность наложения камер видеонаблюдения с LFR и даже в сочетании с данными социальных сетей или другими системами «больших данных» – LFR – это супер-система видеонаблюдения ».

Использование биометрических технологий для удаленной идентификации людей вызывает серьезные проблемы с правами человека, в том числе в отношении конфиденциальности и риска дискриминации

. 19659009] Суд находит некоторую ошибку в использовании британской полицией технологии распознавания лиц

По всей Европе проводятся кампании, такие как Reclaim your Face, призывающие к запрету на биометрическое массовое наблюдение.

В другом целевом действии, проведенном еще в мае. , Privacy International и другие подали судебные иски в скандальную американскую компанию по распознаванию лиц Clearview AI, пытаясь полностью остановить ее деятельность в Европе. (Некоторые региональные полицейские силы подключались к ним, в том числе в Швеции, где в начале этого года национальное агентство DPA оштрафовало их за незаконное использование технологии.)

Но, хотя в Европе существует серьезное общественное сопротивление биометрическому наблюдению, региональные законодатели до сих пор – в лучшем случае – возились с краями спорного вопроса.

Общеевропейское постановление, представленное Европейской комиссией в апреле, которое предлагает основанную на оценке риска структуру для приложений искусственного интеллекта, включало лишь частичное запрет на использование правоохранительными органами биометрического наблюдения в общественных местах – с широким спектром исключений, которые вызвали много критики.

Также звучали призывы к полному запрету на использование таких технологий, как распознавание лиц вживую, в общественных местах от депутатов Европарламента по всей Европе. политический спектр. Главный надзорный орган ЕС по защите данных также призвал законодателей хотя бы временно запретить использование биометрического наблюдения в общественных местах.

Запланированное ЕС Постановление об ИИ не будет применяться в Великобритании, в любом случае, поскольку страна сейчас находится за пределами блок. И еще неизвестно, будет ли правительство Великобритании стремиться ослабить национальный режим защиты данных.

В недавнем отчете, который оно поручило изучить, как Великобритания может пересмотреть свой регуляторный режим после Брексита, например, предлагается заменить GDPR Великобритании с новой «структурой Великобритании» – предлагая изменения, чтобы «высвободить данные для инноваций и в интересах общества», как он выражается, и выступая за пересмотр ИИ и «секторов роста». Поэтому вопрос о том, будет ли британский режим защиты данных сожжен в костре «волокиты» после Брексита, является ключевой проблемой для правозащитников.

(Целевая группа по инновациям, росту и реформе регулирования ]например, выступает за полное удаление статьи 22 GDPR, которая дает людям право не подчиняться решениям, основанным исключительно на автоматизированной обработке, – предлагая заменить ее «акцентом» на том, «соответствует ли автоматическое профилирование требованиям проверка законности или общественного интереса », с указанием того, что предполагается исходить от Управления комиссара по информации (ICO). Но следует также отметить, что правительство находится в процессе найма преемника Денхэма; и цифровой министр заявил, что хочет ее замены, чтобы принять «смелый новый подход», который «больше не рассматривает данные как угрозу, а как прекрасную возможность нашего времени». Так что, до свидания, справедливость, подотчетность и прозрачность?)

А пока те, кто стремится реализовать Согласно заключению ICO, LFR в Великобритании должен соответствовать положениям Закона Великобритании о защите данных 2018 года и Общего регламента по защите данных Великобритании (также известного как реализация GDPR ЕС, которая была перенесена в национальное законодательство до Brexit), включая принципы защиты данных. изложены в статье 5 Общего регламента по защите данных Великобритании, включая законность, справедливость, прозрачность, ограничение цели, минимизацию данных, ограничение хранения, безопасность и подотчетность.

Контроллеры также должны позволять физическим лицам осуществлять свои права, говорится в заключении.

" Организациям необходимо с самого начала продемонстрировать высокие стандарты управления и подотчетности, включая возможность обосновать, что использование LFR является справедливым, необходимым и соразмерным в каждом конкретном контексте, в котором оно применяется. Им нужно продемонстрировать, что менее навязчивые методы не работают », – написал Денхэм. «Это важные стандарты, требующие тщательной оценки.

« Организациям также необходимо будет понимать и оценивать риски использования потенциально навязчивой технологии и ее влияние на конфиденциальность людей и их жизнь. Например, как вопросы, связанные с точностью и предвзятостью, могут привести к неправильной идентификации и ущербу или ущербу, который с этим связан ».

Сроки публикации мнения ICO по LFR интересны в свете более широких опасений по поводу направления Великобритании путешествия по защите данных и конфиденциальности.

Если, например, правительство намеревается нанять нового, «более сговорчивого» уполномоченного по информации, который с радостью разорвет свод правил по защите данных и ИИ, в том числе в таких областях, как биометрическое наблюдение – им, по крайней мере, будет довольно неловко сделать это с мнением предыдущего уполномоченного по публичным записям, в котором подробно описываются опасности безрассудного и ненадлежащего использования LFR.

Конечно, следующий уполномоченный по информации не сможет говорят, что им не было сделано четкого предупреждения о том, что биометрические данные особенно чувствительны и могут использоваться для оценки или вывода других характеристик, таких как возраст, пол, пол или этническая принадлежность.

Или что суды «Великой Британии» ранее пришли к выводу, что «как отпечатки пальцев и ДНК [a facial biometric template] являются информацией« по сути своей частной »информации», как отмечается в заключении ICO, при этом подчеркивается, что LFR может заставляют собирать эти сверхчувствительные данные, даже не подозревая об этом.

Мнение Денхэма также сильно подчеркивает необходимость общественного доверия для успеха любой технологии, предупреждая, что: «Общественность должна быть уверена в том, что ее использование законно, справедливо, прозрачно. и соответствует другим стандартам, установленным в законодательстве о защите данных ».

ICO ранее опубликовало Заключение об использовании LFR полицией, которое, по ее словам, также устанавливает« высокий порог для его использования ». (И несколько британских полицейских сил, включая Метрополитен в Лондоне, были одними из первых, кто начал применять технологию распознавания лиц, что, в свою очередь, привело к тому, что некоторые из них попали в горячую воду по таким вопросам, как предвзятость.)

К сожалению, для людей правозащитников, мнение ICO уклоняется от рекомендации полного запрета на использование биометрического наблюдения в общественных местах частными компаниями или общественными организациями – при этом комиссар утверждает, что, хотя существуют риски с использованием технологии, могут также быть случаи, когда она высокая полезность (например, поиск пропавшего ребенка).

«Моя роль не состоит в том, чтобы одобрять или запрещать технологию, но, хотя эта технология развивается и широко не применяется, у нас есть возможность гарантировать, что она не расширять без должного внимания к защите данных », – написала она, вместо этого заявив, что, по ее мнению,« защита данных и конфиденциальность людей должны быть в основе любых решений по развертыванию LFR ».

Денхэм добавил, что (действующий) закон Великобритании« устанавливаетвысокая планка для оправдания использования LFR и его алгоритмов в местах, где мы делаем покупки, общаемся или собираемся ».

« С любой новой технологией создание общественного доверия и уверенности в том, как используется информация людей, имеет решающее значение, поэтому получаемые выгоды технологии могут быть полностью реализованы », – повторила она, отметив, как отсутствие доверия к США привело к тому, что некоторые города запретили использование LFR в определенных контекстах, а некоторые компании приостановили предоставление услуг до тех пор, пока правила не станут более четкими.

« Без доверия преимущества, которые может предложить технология, будут потеряны », – предупредила она.

Есть одна красная черта, которую правительство Великобритании, возможно, забывает в своей неприличной поспешности (потенциально) разрушить режим защиты данных Великобритании во имя мнимое «нововведение». Потому что, если он попытается «освободить» национальные правила защиты данных от основных принципов ЕС (законности, справедливости, соразмерности, прозрачности, подотчетности и т. Д.), Он рискует выйти из нормативного соответствия с ЕС, что затем приведет к Европейскую комиссию разорвать соглашение об адекватности данных между ЕС и Великобританией (по которому чернила все еще сохнут ).

Великобритания, имеющая соглашение об адекватности данных с ЕС, зависит от Великобритании, имеющей по существу эквивалент защита данных людей. Без этого желанного статуса адекватности данных британские компании немедленно столкнутся с гораздо более серьезными юридическими препятствиями при обработке данных граждан ЕС (как это сейчас происходит в США после прекращения действия Safe Harbor и Privacy Shield). Могут быть даже ситуации, когда агентства по защите данных ЕС приказывают полностью приостановить потоки данных между ЕС и Великобританией…

Очевидно, что такой сценарий был бы ужасен для британского бизнеса и «инноваций» – даже до того, как вы рассмотрите более широкий вопрос общественного доверия к технологий и того, хочет ли сама великая британская общественность, чтобы ее права на неприкосновенность частной жизни были подожжены.

Учитывая все это, вы действительно должны задаться вопросом, продумал ли кто-нибудь в правительстве Великобритании эту «нормативную реформу» до конца. На данный момент ICO по крайней мере все еще может думать за них.