Правозащитные организации нацелились на технологию распознавания лиц в магазинах

Альянс, возглавляемый правозащитной группой «Борьба за будущее», хочет, чтобы магазины перестали использовать технологию распознавания лиц, и называет нарушителей по именам. Более 35 групп, включая Access Now, Data for Black Lives, проект по надзору за технологиями видеонаблюдения и другие, в прошлом месяце объединили усилия для проведения кампании “Запрет распознавания лиц в магазинах”, которая требует от розничных продавцов прекратить эту практику. Его последняя система показателей направлена на то, чтобы заставить Macy’s, Apple, Lowe’s и продуктовые магазины H. E. B. Grocery и Albertsons прекратить сканирование покупателей и работников. “Компании заявляют, что предлагают распознавание лиц во имя ”удобства» и «персонализации», но на самом деле их приоритетами являются защита и прогнозирование прибыли, игнорируя то, как они нарушают права людей и подвергают их опасности», — сказала Кейтлин Сили Джордж, директор кампании «Борьба за будущее», в подготовленных комментариях. “Магазины, которые используют или рассматривают возможность использования системы распознавания лиц, должны обратить внимание на этот призыв десятков ведущих организаций по защите гражданских прав и расовой справедливости, представляющих миллионы людей”, — продолжила она. “Розничные продавцы должны взять на себя обязательство не использовать систему распознавания лиц в своих магазинах, чтобы мы могли поддержать их решение или быть готовыми к натиску оппозиции”.

По данным коалиции, разработчики технологий ускорили использование технологии распознавания лиц во время пандемии, заявив, что она полезна для таких вещей, как бесконтактные платежи или измерение температуры.

Также было отмечено, что недавнее предложение платежной компании Stripe радикально упрощает ее добавление на веб-сайты всего с помощью трех строк кода. Но очевидно, что кампания оказывает давление на розничный сектор. Группы исследовали или связались с крупными американскими розничными торговцами, чтобы узнать, используют ли они технологию распознавания лиц, а затем на основе результатов создали систему показателей, охватывающую 29 компаний. “Мы планируем расширить этот список розничных продавцов, включив в него больше ведущих розничных продавцов в стране, чтобы люди могли связаться с этими дополнительными компаниями и оказать на них давление, чтобы они ставили права своих клиентов и работников, конфиденциальность и безопасность на первое место”, — сказал Сили Джордж в заявлении для WWD. Примечательно, что Walmart и Target указаны как “Не будут использоваться”, в то время как Macy’s, Apple и другие, перечисленные выше, указаны как “Используют”.

Некоторые магазины были помечены из-за судебных исков. Macy’s был помечен из-за коллективного иска о защите частной жизни в Чикаго в прошлом году, в котором компания обвинялась в нарушении закона Иллинойса о биометрической конфиденциальности путем использования соответствующего программного обеспечения для сканирования покупателей.

Аналогичным образом, коалиция отметила, что “на Lowe’s подан иск за использование системы распознавания лиц в Иллинойсе”, и сослалась на свою политику конфиденциальности, в которой говорится, что она “может также использовать видеомониторинг и другие технологии отслеживания” для обеспечения безопасности, защиты от краж, других преступлений и “для отслеживания структуры трафика в магазине, клиентов учитывает и представляет интерес, а также выполняет аналогичную аналитику. Однако мы можем связать, а можем и не связать такую информацию с вами.”

Но Морин Уоллес, менеджер по корпоративным коммуникациям и связям с общественностью Lowe’s, отрицает, что ритейлер использует эту технологию. “На самом деле, Lowe’s не собирает биометрические данные или данные о распознавании лиц в наших магазинах”, — сказала она WWD. Статус Apple связан с еще одним судебным процессом, в котором кто-то утверждал, что неправильное распознавание лиц привело к ошибочной идентификации как магазинного вора, причем не единожды, а многократно.

Последний сценарий является одной из причин, по которой критики критикуют технологию, которая может оказать огромное влияние на цветных и другие маргинализированные сообщества. “Жители Детройта знают, каково это, когда за тобой наблюдают, когда за тобой повсюду следят камеры наблюдения, использующие распознавание лиц”, — сказала Тавана Петти, национальный организационный директор Data for Black Lives, в своем заявлении. Петти объяснил, что Project Green Light, программа массового наблюдения в Детройте, использует более 2000 мигающих зеленым светом камер наблюдения на более чем 700 предприятиях, включая больницы, государственные жилые дома и рестораны.

Камеры используют функцию распознавания лиц и подключаются к криминалистическим центрам, полицейским участкам и мобильным устройствам сотрудников в режиме 24/7. “Трудно объяснить, какое психологическое воздействие это оказывает на сообщество, зная, что каждый ваш шаг отслеживается алгоритмом, основанным на расовых предрассудках, который способен лишить вас свободы”, — добавила она. Предвзятость — очень острая проблема в технологическом секторе.

Например, у умных часов была непростая история с точным считыванием темных оттенков кожи для функций, связанных со здоровьем или фитнесом, управляемых датчиками, в то время как предположение о предвзятости в искусственном интеллекте привело к тому, что множество корпоративных комитетов, инициативных групп и законодателей изучают этот вопрос. Что касается системы показателей, то здесь заметно отсутствует один розничный гигант — Amazon, чьи магазины Amazon Go напичканы камерами и датчиками. “Amazon в значительной степени не является розничным продавцом, поэтому мы не включили их в список, несмотря на то, что компания является одним из крупнейших ритейлеров в США”, — добавил Сили Джордж. — Тем не менее, мы боролись и будем продолжать бороться против использования Amazon технологий наблюдения, включая распознавание лиц, в своих магазинах, на складах, за работниками и за тем, что они продают”.

На протяжении многих лет интернет-магазин отрицал использование технологии распознавания лиц в отделениях Amazon Go в многочисленных комментариях для СМИ. Но использование технологии сканирования ладоней вызывает аналогичные опасения по поводу конфиденциальности, как и другие инициативы.

В частности, «Борьба за будущее» протестует против партнерства Amazon с правоохранительными органами. “В более чем 1400 городах по всей стране Amazon предоставляет полицейским управлениям неограниченный доступ для запроса и хранения видеозаписей с тысяч камер видеонаблюдения”, — говорится на веб-сайте Amazon. “Массовое наблюдение дает полицейским беспрецедентные возможности. ”Цель группы — повысить осведомленность общественности и оказать давление на местных выборных должностных лиц, с тем чтобы они отказались от этих партнерских отношений. Это другой подход по сравнению с подходом альянса, который не полагается только на действия политиков.

Сили Джордж объяснила, что сами технологические компании призывают к регулированию, хотя и в более благоприятных для отрасли вариантах. “[Они] недостаточно делают для обеспечения безопасности людей”, — сказала она. Например, требование согласия на сбор биометрических данных предполагает, что люди понимают “весь возможный вред”, а большинство из них этого не понимают.

У некоторых потребителей также может не быть выбора между покупками в другом месте, в зависимости от их местоположения или дохода. “Невозможно ввести правила, которые ставили бы на первое место конфиденциальность и права, когда технологии по своей сути являются инвазивными”, — сказала она. — Вот почему мы призываем розничных продавцов взять на себя обязательство не использовать технологию распознавания лиц, а также призываем законодателей принять закон для защиты людей от компаний, которые используют технологию распознавания лиц”.