Паноптикум или всеобщее благо

Правительства и частные компании давно собирают данные о гражданах, руководствуясь терминами «национальная безопасность», «экономическая стабильность» и «общественные интересы». В частности, правоохранительные органы внедряют системы распознавания лиц для выявления подозреваемых, поиска пропавших людей и мониторинга мест общественного скопления. Такие системы используются ещё с 1960-х годов, но с появлением баз данных, автоматизации и машинного обучения их возможности значительно расширились. Вместе с тем, темпы внедрения этих технологий различаются, поскольку одни считают их эффективными для повышения безопасности, в то время как другие выступают против их использования и требуют полного запрета.

В трёх измерениях

В основном, для общественной безопасности используют три типа систем распознавания лиц: Live Facial Recognition (LFR), Retrospective Facial Recognition (RFR) и Operator Initiated Facial Recognition (OIFR). 

LFR работает как биометрический полицейский КПП: камера с функцией распознавания лиц сканирует толпу людей и в режиме реального времени сопоставляет их лица с базой данных изображений, собранных полицией. 

Ретроспективное распознавание лиц (RFR) аналогично LFR сканирует лица и сопоставляет их с базой данных, но RFR можно применять к любым изображениям. В отличие от LFR, которая используется открыто с помощью специально оборудованных камер, использование RFR более скрытно и может применяться к отснятому материалу или изображениям за закрытыми дверями. Критики обеспокоены этой технологией, поскольку огромное количество устройств для захвата изображений и видео в современном мире — от телефонов и социальных сетей до интеллектуальных дверных звонков и систем видеонаблюдения — создает изобилие материала, который можно загрузить в ПО. 

Что касается распознавания лиц, инициируемого оператором (OIFR), то эта технология работает через приложение на телефонах полицейских и позволяет им автоматически сравнивать фотографии, сделанные в полевых условиях, с заранее определенной базой данных.

На страже закона

Множество представителей службы общественной безопасности считают, что технология распознавания лиц стала ключевым моментом в обеспечении правопорядка, и приводят примеры, когда преступления не были бы раскрыты или предотвращены без её использования. В правоохранительных органах эта технология является инструментом, помогающим следователям собирать зацепки относительно неизвестной личности, представляющей особый интерес. В этом контексте технология не служит для подтверждения идентичности и не приводит к автоматическим решениям. Если удается разработать зацепку, помимо сравнения лиц требуется применение других следственных методов для поиска и подтверждения информации, необходимой для однозначной идентификации человека, а в случае подозреваемого — для обоснования причины ареста или получения ордера на обыск.

При использовании традиционных методов полиция вручную пытается идентифицировать нужного человека, просматривая сотни фотографий и исследуя базу данных, основываясь на смутных описаниях или вымышленных именах подозреваемых. Системы распознавания лиц автоматизируют и улучшают начальный этап поиска совпадений среди фотографий в базе данных. Они не только оптимизирует ручные процессы, но и способствуют более точной идентификации. Так, исследователи выявили, что криминалисты добиваются лучших результатов и наибольшей точности, когда применяют технологии распознавания лиц. 

Кроме того, правильное использование этой технологии имеет критическое значение для защиты невиновных, т.к. опознания очевидцев в уголовных делах часто бывают ошибочными. По данным проекта Innocence Project, ложные опознания стали основной причиной большинства неправомерных обвинительных приговоров в США, которые впоследствии были отменены. Так, например, ложно обвиненный в непредумышленном убийстве в результате ДТП житель Флориды был оправдан только после того, как технология распознавания лиц, предоставленная государственным защитникам, была использована для идентификации и поиска ключевого свидетеля на месте смертельной аварии, который подтвердил, что мужчина был пассажиром, а не водителем транспортного средства.

Цена ошибки

Согласно исследованию NIST, благодаря развитию вычислительной мощности и доступности данных в последние годы технология распознавания лиц стала более точной, чем десять лет назад. Однако Д.Булоуами из MIT Media Lab доказала, что, хотя некоторые программы распознавания лиц могут похвастаться точностью более 90%, эта цифра может вводить в заблуждение. Если разделить технологию на демографические категории, то точность распознавания темнокожих лиц снижается на 11,8-19,2%. Критики утверждают, что такой разрыв в надежности ставит людей под угрозу, повышая вероятность их ошибочной идентификации. После публикации результатов исследования было отмечено, что компании IBM и Microsoft смогли исправить разницу в точности по конкретным демографическим группам, то есть при более тщательном подходе к разработке этих технологий можно предотвратить подобные негативные последствия. 

Четкость изображения также играет большую роль в определении точности совпадения. Исследование NIST показало, что ошибки при сопоставлении по большей мере обусловлены морщинами, травмами лица и плохим качеством изображения. Кроме того, при тестировании технологии на реальных объектах, таких как спортивные стадионы, было обнаружено, что точность варьируется от 36% до 87% в зависимости от расположения камеры. 

Правоохранительные органы подчеркивают, что, поскольку распознавание лиц не может быть использовано в качестве достаточного основания, следователи должны использовать традиционные следственные действия, прежде чем произвести арест, чтобы предотвратить злоупотребление технологией. Однако есть свидетельства того, что технология распознавания лиц использовалась в качестве ключевого основания для ареста. Получившие широкую огласку случаи неправильной идентификации, например, кейс П .Вудрафф, темнокожей женщины на восьмом месяце беременности, которая была ложно осуждена за угон автомобиля и вооруженное ограбление, подтверждают мнение, что полиция может использовать совпадения в распознавании лиц для ареста. 

Противники систем утверждают, что правоохранительные органы не делают достаточно для обеспечения точности и надежности своих систем. Отчасти это связано с тем, как и для чего они используют ПО для распознавания лиц. Оно позволяет полицейским настраивать уровень доверия или надежность получаемых изображений. Изображения с высокой степенью достоверности более точны, но при этом выдают меньше результатов. В некоторых случаях правоохранительные органы могут использовать более низкие показатели достоверности, чтобы получить как можно больше зацепок. 

Например, ACLU привлек внимание СМИ расследованием, в ходе которого выяснилось, что программное обеспечение Rekognition от Amazon ложно сопоставило 28 членов Конгресса с фотографиями, причем 40% из них были темнокожими. В исследовании использовалась стандартная оценка достоверности Rekognition — 80%, которая считается относительно низкой для создания совпадений. Однако в ответ на это исследование Amazon уведомила пользователей, что для поиска человеческих совпадений рекомендуется порог доверия 95%. 

Конфиденциальность и свобода собраний 

Компании, работающие в социальных сетях, также выразили обеспокоенность тем, как информация, размещенная на их платформах, используется в программах распознавания лиц. Системы работают на основе алгоритмов, которые собирают в Интернете фотографии людей и их личную информацию, которая затем используется для получения прибыли. Facebook*, YouTube и X — одни из крупнейших компаний, которые выступили против этой практики, подав предписания о прекращении и отказе. Однако юридический прецедент, установленный в решении 2019 года по делу HiQ Labs V. LinkedIn, позволяет третьим лицам собирать общедоступную информацию в Интернете, поскольку она является общественным достоянием. 

Технология распознавания лиц может использоваться для мониторинга больших скоплений людей и мероприятий, что часто встречается в аэропортах, спортивных комплексах и на концертах. Более того, известно, что правоохранительные органы использовали программное обеспечение для распознавания лиц, чтобы найти людей, присутствовавших на «Восстании 6 января» и общенациональных движениях Black Lives Matter. Они утверждают, что наблюдение за большими скоплениями людей с помощью этой технологии может помочь защитить общество от противоправных действий и быстро поймать подозреваемых. Однако активисты движения за неприкосновенность частной жизни и гражданские свободы сильно беспокоятся о влиянии слежки на свободу собраний.

* Деятельность организации Meta признана экстремистской и запрещена на территории России. Facebook и Instagram — социальные сети, принадлежащие Meta, заблокированы в России.

Виктория Совгирь, аналитик Центра политической конъюнктуры

#ВикторияСовгирь