tgoop.com/Sergey_Ross/1893
Last Update:
⚡️ Полицейское наблюдение в США: ошибки системы распознавания лиц и уроки для России
Работа Николь Ли и Кейтлин Чин / Brookings
[Мы начинаем переводить выводы исследовательских центров мира в сфере законодательной политики (policy) — сегодня статья из Брукингского института, основанного в 1916 году в США. Это один из важнейших аналитических центров (фабрик мысли), который специализируется на общественных науках, муниципальном управлении, внешней политике и мировой экономике.]
Не новость, что правительства и частные компании собирают данные о гражданах и оправдывают это соображениями безопасности и другими социальными выгодами. При этом отсутствие законодательных ограничений рождает здесь большой простор для злоупотреблений. И речь не только о России. Исследовательницы Николь Ли и Кейтлин Чин обратили внимание, как в США применение технологий распознавания лиц вредит маргинализованным группам.
В статье «Полицейское наблюдение и распознавание лиц» они поднимают проблему того, что дискриминируемые группы – в частности, people of color, – больше других сталкиваются с негативными последствиями слежки. Так, например, случаи ложного распознавания лиц небелых людей носят системный характер: если в случае белых людей доля ошибки – до 0,8%, то для темнокожих – 35%. Кроме того, алгоритм распознавания лиц чаще “учится” на людях со светлой кожей. Из-за подобной “предвзятости” технологий видеонаблюдения уязвимые группы имеют повышенный риск быть обвиненными в преступлении, к которому они не имеют отношения.
Говоря о сборе данных, исследовательницы обращают внимание во-первых, на частные корпорации, которые передают данные государству по запросу, а во-вторых, на слежку в общественных местах. Последняя осуществляется не только с помощью зафиксированных камер, как в России, но также с помощью дронов и камер, которые носят на себе полицейские.
Сейчас законы США напрямую не регламентируют использование камер в общественных местах. Четвертая поправка, гарантирующая право человека на неприкосновенность личности и защиту его имущества, не является достаточным основанием ограничить сбор его персональных данных в общественных местах. Так что по сути все решают судья или присяжные, интерпретируя закон.
Ограничительные законы есть в ряде штатов, но не в стране в целом. Авторы исследования настаивают, что регулировать системы распознавания лиц должно и федеральное законодательство. Во-первых, нужно ограничить полномочия государства в использовании системы распознавания лиц. В качестве примера такой меры приводится закон, принятый после убийства Джоржа Флойда. Он запрещает применение системы распознавания лиц в камерах сотрудников федеральных правоохранительных органов. Во-вторых, нужен закон о конфиденциальности, регулирующий частные компании. Например, нужно обязать их предоставлять гражданам информацию о том, что у компании есть их персональные данные, а также удалять эти данные по запросу гражданина.
Описанные проблемы и пути решения релевантны и для России. Во-первых, у нас степень срощенности частных и государственных структур еще выше, чем в США. Во-вторых, доля ошибочного распознавания лиц доходит до 35%. В-третьих, в условиях недемократии и отсутствия каналов обратной связи возможностей для злоупотреблений у государства еще больше.
BY РОСС
Share with your friend now:
tgoop.com/Sergey_Ross/1893