Table of Contents

Понимание технологии распознавания лиц в современных судебных расследованиях

Технология распознавания лиц стала одним из самых преобразующих инструментов в судебно-медицинской экспертизе за последнее десятилетие. Эта сложная биометрическая технология позволяет правоохранительным органам выявлять подозреваемых, жертв и свидетелей с беспрецедентной скоростью и эффективностью, кардинально меняя то, как проводятся уголовные расследования. От анализа видеозаписей наблюдения, снятых на местах преступлений, до сопоставления изображений с огромными базами данных, содержащими миллионы записей, системы распознавания лиц глубоко интегрированы в современные полицейские и судебно-медицинские рабочие процессы.

По данным Управления подотчетности правительства США, более двух третей полицейских агентств используют технологию распознавания лиц в некотором качестве, хотя приложения значительно варьируются от контроля доступа к объектам до активных уголовных расследований. По меньшей мере 3750 государственных и местных правоохранительных органов и 20 федеральных агентств в настоящее время сообщают об использовании технологии распознавания лиц, причем многие планируют расширить свое развертывание в ближайшие годы.

Несмотря на растущую распространенность, технология распознавания лиц в судебно-медицинских контекстах остается спорной.Сочетание искусственного интеллекта, биометрической идентификации и уголовного правосудия поднимает сложные вопросы о точности, справедливости, конфиденциальности и гражданских свободах.Понимание того, как работает эта технология, ее применения в судебной науке и вызовы, которые она представляет, имеет важное значение для всех, кто заинтересован в современных правоохранительных органах, реформе уголовного правосудия или этическом развертывании искусственного интеллекта в обществе.

Наука, стоящая за системами распознавания лиц

Как работают алгоритмы распознавания лиц

Технология распознавания лиц работает через сложный многоступенчатый процесс, который преобразует человеческие лица в цифровые данные, которые можно анализировать, сравнивать и сопоставлять. Система начинается с обнаружения лица в изображении или видеокадре, отличая его от фона и других объектов. После обнаружения лица алгоритм идентифицирует ключевые ориентиры лица - конкретные точки на лице, такие как углы глаз, кончик носа, края рта и контуры челюсти.

Эти черты лица затем измеряются и анализируются для создания уникального численного представления, часто называемого подписью лица или шаблоном. Алгоритм вычисляет расстояния между различными ориентирами лица, анализирует геометрию структур лица и фиксирует отличительные характеристики, которые отличают одного человека от другого. Это математическое представление позволяет компьютерам «узнавать» и сравнивать лица.

Заключительный шаг включает сравнение этого шаблона лица с базой данных известных лиц. Система генерирует оценку сходства или уровень уверенности, указывающий, насколько близко изображение зонда (неизвестное лицо, которое анализируется) соответствует эталонным изображениям в базе данных. Когда идентифицируется потенциальное совпадение, система обычно возвращает ранжированный список кандидатов, а не одну окончательную идентификацию.

Эволюция распознавания лиц в судебной науке

Путь ИИ в криминалистику начался в конце 20 века, в первую очередь с акцентом на автоматизацию задач распознавания образов. Внедрение в 1980-х годах Автоматизированной системы идентификации отпечатков пальцев (AFIS) ознаменовало поворотный момент, продемонстрировав, что биометрическая идентификация может быть успешно автоматизирована. Этот успех проложил путь для применения аналогичных вычислительных подходов к распознаванию лиц.

Ранние системы распознавания лиц опирались на относительно простые геометрические измерения и требовали для эффективного функционирования высококачественных стандартизированных изображений.С первой попытки распознавания лиц по кружочкам использовались методы 3D-реконструкции для решения некоторых проблем, характерных для судебных дел, пытаясь установить личность неизвестных лиц против справочного набора данных.Эти ранние системы боролись с вариациями освещения, позы, выражений лица и качества изображения.

Современные системы распознавания лиц используют глубокое обучение и нейронные сети, представляя собой квантовый скачок в возможностях. Эти продвинутые алгоритмы могут научиться идентифицировать лица из массивных наборов данных, адаптируясь к изменениям внешнего вида, старению, частичным окклюзиям и сложным условиям окружающей среды. Алгоритмы ИИ продемонстрировали значительный потенциал в улучшении судебных процессов, от анализа отпечатков пальцев и распознавания лиц до баллистических сравнений, с распознаванием лиц становится все более сложным и широко распространенным.

Инфраструктура баз данных и репозитории изображений

Эффективность распознавания лиц в судебных расследованиях в значительной степени зависит от баз данных, по которым сравниваются пробные изображения. По данным ACLU, база данных технологии распознавания лиц ФБР включает сотни миллионов фотографий, многие из которых взяты из записей водительских прав. Эти базы данных черпают из нескольких источников, включая хранилища фотографий, фотографий водительских прав, изображений паспортов и все чаще, изображений, соскребённых из социальных сетей и публичных веб-сайтов.

Такие инструменты, как Clearview AI, Amazon Rekognition и Oosto, обеспечивают доступ к более чем 50 миллиардам идентифицированных изображений, соскобленных с публичных веб-сайтов, записей DMV, пересечений границ и т. Д. Этот масштаб позволяет правоохранительным органам широко использовать сеть при поиске потенциальных совпадений, но также вызывает значительные опасения по поводу конфиденциальности при сборе и использовании биометрических данных без явного согласия.

Состав и качество этих баз данных существенно влияют на производительность системы. Наборы данных обучения, которые не имеют разнообразия или содержат предвзятые представления, могут привести к алгоритмам, которые плохо работают в недостаточно представленных демографических группах, что стало одной из самых серьезных проблем, связанных с технологией распознавания лиц в правоохранительных органах.

Применение распознавания лиц в криминалистическом анализе сцены преступления

Идентификация и расследование подозреваемого

При использовании систем распознавания лиц в судебно-медицинской экспертизе в первую очередь используются методы идентификации подозреваемых по свидетельствам о месте преступления. При съемке камер видеонаблюдения с помощью изображений или видео лиц, совершающих преступления, системы распознавания лиц могут быстро осуществлять поиск в базах данных для получения потенциальных клиентов. Эта возможность оказалась особенно ценной в тех случаях, когда следователи располагают визуальными доказательствами, но не располагают другой идентифицирующей информацией о преступниках.

Судебно-медицинская экспертиза лиц стала вездесущим инструментом для руководства расследованиями, сбора разведданных и предоставления доказательств в суде. Правоохранительные органы используют технологию для анализа отснятого материала с камер видеонаблюдения в розничных магазинах, банках, системах общественного транспорта и других местах, где происходят преступления. Скорость автоматического распознавания лиц позволяет следователям обрабатывать часы видеоматериалов и сравнивать тысячи лиц за долю времени, которое потребуется для ручного обзора.

Однако важно понимать, что большинство правоохранительных органов рассматривают результаты распознавания лиц как следственные зацепки, а не окончательные идентификации.Политика NYPD предусматривает, что распознавание лиц может использоваться для идентификации потенциальных лиц, представляющих интерес, но требует подтверждающих доказательств до принятия мер, заявляя, что процесс распознавания лиц сам по себе не устанавливает вероятную причину для ареста или ордеров на обыск.

Идентификация жертв и пропавших без вести лиц

Помимо идентификации подозреваемых, технология распознавания лиц служит гуманитарным целям в судебных расследованиях. Когда жертвы не могут быть идентифицированы с помощью традиционных средств, таких как массовые несчастные случаи, стихийные бедствия или случаи, связанные с сильно разложившимися останками, распознавание лиц может помочь установить личность, сравнивая посмертные изображения или восстановленные лица с базами данных пропавших без вести.

Технология распознавания лиц была полезна в случаях пропавших без вести лиц и для выявления жертв стихийных бедствий и аварийных ситуаций. Это приложение может обеспечить закрытие семей и обеспечить надлежащее расследование случаев смерти. Эта технология также может помочь в выявлении жертв торговли людьми или других преступлений, когда жертвы могут быть неспособны или не хотят идентифицировать себя.

В ходе расследований по делам о пропавших без вести лицах распознавание лиц позволяет правоохранительным органам сравнивать изображения неопознанных лиц с базами данных сообщений о пропавших без вести лицах, что потенциально может связывать случаи в разных юрисдикциях и в разные периоды времени. Эта возможность перекрестной ссылки может решить случаи, которые в противном случае могли бы оставаться холодными на неопределенный срок.

Анализ видеонаблюдения и распознавание шаблонов

Современные городские условия насыщены камерами наблюдения, ежедневно генерирующими огромные объемы видеоматериалов. Ручное рассмотрение этих кадров для идентификации соответствующих лиц будет чрезмерно трудоемким. Технология распознавания лиц позволяет исследователям эффективно искать через обширные архивы видеозаписи наблюдения для обнаружения конкретных лиц или выявления моделей движения и ассоциации.

Системы распознавания лиц могут анализировать большие объемы видеозаписей наблюдения для выявления закономерностей и связей между лицами, участвующими в преступной деятельности. Это может помочь выявить преступные сети и выявить рецидивистов. Путем отслеживания лиц по нескольким каналам камеры и периодам времени следователи могут установить временные рамки, идентифицировать партнеров и нанести на карту преступные сети.

Эта возможность выходит за рамки отдельных расследований. Правоохранительные органы используют распознавание лиц для выявления закономерностей в преступной деятельности, отслеживания известных правонарушителей и мониторинга районов с высоким уровнем преступности. Однако это широкое применение наблюдения вызывает значительные опасения по поводу массового наблюдения и потенциала для отслеживания законопослушных граждан без их ведома или согласия.

Местоположение свидетеля и приоритетность интервью

Распознавание лиц может помочь следователям идентифицировать и найти свидетелей, которые могли присутствовать на месте преступления. Анализируя записи наблюдения с момента и места происшествия, следователи могут идентифицировать лиц, которые могли наблюдать соответствующие события. Эта способность может быть особенно ценной в случаях, когда свидетели не хотят выступать или могут не осознавать, что они обладают важной информацией.

Технология также может помочь определить приоритетность опроса потенциальных свидетелей путем выявления лиц, которые находились в непосредственной близости от ключевых событий или которые неоднократно появлялись на кадрах из соответствующих мест и времени. Такой целенаправленный подход может повысить эффективность расследований и увеличить вероятность сбора полезных показаний.

Интеграция с другими криминалистическими технологиями

Недавние исследования оценивают потенциал современных инструментов ИИ как систем поддержки принятия решений в судебно-медицинском анализе изображений, изучая, как эти инструменты могут увеличить и улучшить работу судебных экспертов. Распознавание лиц все чаще работает как часть интегрированных систем судебно-медицинского анализа, которые сочетают в себе несколько методов идентификации и аналитические инструменты.

Например, распознавание лиц может сочетаться с анализом походки, который идентифицирует людей на основе их шаблонов ходьбы, или с другими биометрическими идентификаторами, такими как татуировки, шрамы или отличительные физические характеристики. Этот мультимодальный подход может повысить уверенность в идентификации и предоставить подтверждающие доказательства, когда отдельные методы дают неоднозначные результаты.

Передовые системы также включают в себя методы 3D-реконструкции лица для решения проблем, связанных с нефронтальными позами или частичными окклюзиями. Исследовательское сообщество предложило использовать 3D-реконструкцию для распознавания лиц из зондовых видео и изображений, полученных в неограниченных средах, чтобы предоставить больше информации об отдельных лицах посредством генерации нескольких просмотров или коррекции позы в данных зондов.

Преимущества и преимущества распознавания лиц в судебных расследованиях

Скорость и эффективность обработки доказательств

Одним из наиболее значительных преимуществ технологии распознавания лиц в судебно-медицинских контекстах является резкое увеличение скорости обработки по сравнению с ручными методами. Основное отличие от традиционного обзора камеры наблюдения заключается в том, что обнаружение лиц и совпадения теперь выполняются автоматически с помощью конкретной технологии ИИ, экономя много времени. Что может занять у аналитиков-людей дни или недели для достижения - просмотра часов видео наблюдения и сравнения лиц с базами данных - может быть завершено автоматизированными системами за минуты или часы.

Эта эффективность позволяет следователям быстрее преследовать потенциальных преступников, потенциально предотвращая дополнительные преступления или задерживая подозреваемых до того, как они убегут. В чувствительных ко времени расследованиях, таких как похищения или продолжающиеся угрозы общественной безопасности, скорость распознавания лиц может быть критически важной. Технология позволяет правоохранительным органам использовать более широкую сеть расследований без пропорционального увеличения потребностей в ресурсах.

Масштабируемость и возможности сравнения баз данных

Инструменты ИИ преуспевают в быстрой обработке больших наборов данных и выявлении тонких шаблонов, которые могут ускользать от аналитиков-людей, потенциально уменьшая процедурные ошибки. Исследователи-люди не могут реально сравнить одно зондовое изображение с миллионами эталонных изображений, но системы распознавания лиц выполняют такие сравнения регулярно. Эта масштабируемость позволяет проводить исследования, которые были бы невозможны с помощью ручных методов.

Технология может осуществлять поиск по нескольким базам данных одновременно, потенциально идентифицируя совпадения в криминальных записях, базах данных пропавших без вести и других хранилищах в рамках одной операции. Эта возможность кросс-базы данных может соединять случаи в разных юрисдикциях и выявлять закономерности, которые в противном случае могли бы остаться незамеченными.

Последовательность и объективность при первоначальном скрининге

Алгоритмы распознавания лиц применяют согласованные критерии при сравнении лиц, в отличие от человеческих наблюдателей, чья производительность может варьироваться в зависимости от усталости, когнитивных предубеждений или субъективных суждений. Технология не испытывает тех же ограничений, что и человеческие экзаменаторы, которые могут бороться с межрасовой идентификацией или быть под влиянием контекстной информации о случаях.

При правильном внедрении в качестве инструмента расследования, а не метода окончательной идентификации, распознавание лиц может обеспечить объективный первоначальный скрининг, который человеческие исследователи могут затем проверить и подтвердить с помощью дополнительных доказательств. Это разделение труда - машины, обрабатывающие первоначальный скрининг большого объема, и люди, применяющие критическое суждение к перспективным лидерам - может оптимизировать ресурсы расследования.

Расширение возможностей для проведения расследований

Технология распознавания лиц позволяет применять методы расследования, которые ранее были непрактичными или невозможными. Теперь следователи могут идентифицировать неизвестных людей по историческим кадрам, отслеживать перемещения по нескольким местам и периодам времени, а также выявлять партнеров и модели ассоциаций. Эти возможности могут помочь решить холодные случаи, применяя современные технологии к старым доказательствам и могут выявить преступные сети и шаблоны, которые может пропустить ручное расследование.

Технология также позволяет исследователям работать с частичными или деградированными доказательствами, которые могут быть непригодными для идентификации человека.В то время как точность снижается при плохом качестве изображения, системы распознавания лиц иногда могут генерировать полезные выводы даже из сложного исходного материала, обеспечивая отправные точки для исследований, которые в противном случае могли бы застопориться.

Критические вызовы и ограничения

Точность и зависимость от качества изображения

Хотя технология распознавания лиц часто рекламируется как высокоточная, точность была протестирована в первую очередь в настройках с высококачественными изображениями. Возможно, алгоритмы работают менее хорошо в низкокачественных изображениях, таких как те, которые часто используются правоохранительными органами. Этот разрыв между лабораторными показателями и реальными условиями представляет собой значительную проблему для судебных приложений.

Исследования показывают, что ложноположительные показатели достигают пика вблизи базового качества изображения, в то время как ложноотрицательные показатели увеличиваются по мере усиления деградации, особенно с размытием и низким разрешением. Общие проблемы качества изображения в судебно-медицинских контекстах включают плохое освещение, размытие движения, нефронтальные позы, низкое разрешение и частичные окклюзии от шляп, солнцезащитных очков или масок. Каждый из этих факторов может значительно ухудшить производительность системы.

Производительность технологии распознавания лиц ухудшается при плохих условиях изображения, особенно при размытии, изменении позы и уменьшенном разрешении, и эта деградация неравномерно распределена по демографическим группам. Это означает, что самые условия, распространенные в реальных кадрах с места преступления - серое видео наблюдения, движущиеся объекты, плохое освещение - это именно те условия, где распознавание лиц наименее надежно.

Точность одного только алгоритма недостаточна: мы также должны оценить точность фактического использования на практике, в том числе как пользователи предварительно обрабатывают и манипулируют данными. Существует документированный случай, когда полицейский копировал черты лица с изображений высокого разрешения и вставлял их на низкокачественную фотографию-подозреваемого с помощью компьютерного программного обеспечения перед проведением поиска в базе данных. Такие манипуляции могут вносить дополнительные ошибки и вызывать серьезные вопросы о целостности доказательств.

Демографические отклонения и разрозненные показатели ошибок

Возможно, самая серьезная проблема, стоящая перед технологией распознавания лиц в правоохранительных органах, - это хорошо задокументированная демографическая предвзятость. Программы технологии распознавания лиц, используемые правоохранительными органами для выявления подозреваемых в совершении преступлений, значительно более подвержены ошибкам на изображениях лиц, изображающих более темные тона кожи и женщин, по сравнению с изображениями лиц, изображающими кавказских мужчин.

Величина этих различий поразительна. Частота ошибок у светлокожих мужчин составляет 0,8% по сравнению с 34,7% у темнокожих женщин, согласно исследованию 2018 года под названием «Гендерные оттенки». В отчете Национального института стандартов и технологий (NIST) за 2019 год, в котором были протестированы 189 алгоритмов распознавания лиц от 99 разработчиков, было обнаружено, что афроамериканские и азиатские лица были в 10-100 раз более склонны к неправильной идентификации, чем белые мужские лица.

Эти различия означают, что технология, скорее всего, приведет к ложным совпадениям - потенциально приводя к неправомерным расследованиям или арестам - для членов демографических групп, которые уже испытывают непропорционально высокий контакт с системой уголовного правосудия.

Источники этого смещения многочисленны. Непропорциональное представление белых мужчин в обучающих изображениях производит искаженные алгоритмы, потому что черные люди чрезмерно представлены в базах данных снимков и других хранилищах изображений, обычно используемых правоохранительными органами. Эксперты приписывают такие выводы в значительной степени бессознательной передаче инженерами «собственного предубеждения расы» в алгоритмы. Собственная раса предвзятости ползет в, поскольку дизайнеры бессознательно фокусируются на знакомых им чертах лица.

Неправильное задержание и неправильная идентификация

Последствия ошибок распознавания лиц выходят за рамки абстрактных опасений по поводу точности — они приводят к реальному ущербу для реальных людей.Житель Мичигана Роберт Уильямс был арестован за преступление, которого он не совершал, потому что система распознавания лиц ошибочно предположила, что он был подозреваемым, замеченным на кадрах камеры безопасности. В январе 2020 года Роберт Уильямс провел 30 часов под стражей в полиции после того, как алгоритм перечислил его как потенциального совпадения с подозреваемым в ограблении, совершенном полтора года назад.

Полиция арестовывает людей по ложным совпадениям, как Ниджер Паркс, чернокожий мужчина, которого полиция в Нью-Джерси арестовала и держала в тюрьме в течение десяти дней, потому что полиция доверяла результатам распознавания лиц, упустив из виду очевидные доказательства, которые подтверждают, что чрезмерная зависимость от результатов распознавания лиц в сочетании с предвзятостью подтверждения и недостаточным подтверждением может привести к серьезным судебным ошибкам.

Эти ошибки имеют реальные последствия — расследование и арест неизвестного числа невинных людей и лишение надлежащей правовой процедуры многих, многих других.Полная степень неправомерных расследований и арестов, связанных с ошибками распознавания лиц, остается неизвестной, поскольку многие юрисдикции не требуют раскрытия информации об использовании распознавания лиц в расследованиях.

Отсутствие стандартизации и научной валидации

В отличие от установленных судебных дисциплин, таких как анализ ДНК или сравнение отпечатков пальцев, технология распознавания лиц не прошла строгих процессов проверки и стандартизации, необходимых для надежных судебных доказательств.

Как и в настоящее время используется в уголовных расследованиях, распознавание лиц, вероятно, является ненадежным источником доказательств личности. Технология значительно варьируется в зависимости от поставщиков и реализаций, при этом различные алгоритмы дают разные результаты на одних и тех же изображениях. Это отсутствие стандартизации затрудняет установление согласованных стандартов надежности или сравнение производительности в разных системах.

Алгоритм и человеческие шаги в поиске распознавания лиц могут усугубить ошибки другого. Поскольку лица содержат по своей сути предвзятую информацию, такую как демография, выражения и предполагаемые поведенческие черты, может быть невозможно устранить риск предвзятости и ошибки. Эта фундаментальная проблема предполагает, что одного улучшения алгоритмов может быть недостаточно для устранения ограничений технологии.

Человеческая чрезмерная зависимость и предубеждения

Расследование в СМИ показало, что некоторые сотрудники правоохранительных органов рассматривают результаты технологии распознавания лиц как окончательные, а не как следственные, например, ссылаясь на непроверенную совпадение как «100%». Эта чрезмерная зависимость от результатов технологии может привести к тому, что следователи пропустят противоречивые доказательства или не смогут провести адекватную проверку.

Недостаточная зависимость человека от распознавания лиц уже является проблемой. Когда следователи получают совпадение по распознаванию лиц, предвзятость подтверждения может привести их к интерпретации неоднозначных доказательств как поддерживающих совпадение, а не к критической оценке правильности идентификации. Эта психологическая тенденция в сочетании с временным давлением и ограниченностью ресурсов может привести к недостаточной проверке лидов распознавания лиц.

Проблема усугубляется, когда результаты распознавания лиц представлены с высокими показателями уверенности или процентами сходства, которые создают иллюзию уверенности.Исследователи могут не полностью понимать, что эти оценки отражают алгоритмическую уверенность, а не фактическую вероятность правильной идентификации, и что оценки уверенности могут вводить в заблуждение, особенно когда системы работают за пределами своих проверенных параметров производительности.

Проблемы конфиденциальности и последствия гражданских свобод

Массовое наблюдение и отслеживание возможностей

Широкое использование технологии распознавания лиц вызывает серьезные вопросы о конфиденциальности. Технология позволяет вести наблюдение в реальном времени в массовом масштабе. При подключении к общественным камерам распознавание лиц может отслеживать перемещения человека по всему городу без его ведома или согласия. Эта возможность коренным образом трансформирует отношения между людьми и государством, позволяя вести наблюдение в ранее невозможных масштабах.

Распознавание лиц опасно, даже если оно может быть гипотетически совершенно точным. В таком мире правительства могут использовать слежку за лицом, чтобы точно отслеживать нас, когда мы покидаем дом, посещаем протест или отправляемся в общественный транспорт в кабинет врача. Эта возможность наблюдения угрожает основным свободам, включая свободу ассоциации, свободу передвижения и свободу слова, поскольку люди могут самоцензурироваться или избегать определенных действий, если они знают, что их отслеживают.

Обычно полиция использует распознавание лиц после преступления, но гражданские свободы и проблемы конфиденциальности усиливаются с идеей, что технология может быть использована для сканирования лиц в режиме реального времени, с прикрепленными данными геолокации. Распознавание лиц в режиме реального времени представляет собой качественно иную угрозу, чем ретроспективный анализ отснятого материала, поскольку оно позволяет постоянно отслеживать и отслеживать людей, когда они перемещаются в общественных местах.

Расширение базы данных и вопросы согласия

Базы данных, которые обеспечивают системы распознавания лиц, значительно расширились, часто без явного согласия лиц, чьи изображения включены. Фотографии водительских прав, паспортные изображения и фотографии, соскребенные с платформ социальных сетей, заполняют базы данных, о которых люди могут не знать или не осознавать, используются в правоохранительных целях.

Это вызывает фундаментальные вопросы о согласии и управлении данными. Большинство людей, чьи изображения появляются в базах данных распознавания лиц, никогда не давали согласия на их использование в правоохранительных целях. Сбор и использование биометрических данных без информированного согласия противоречит принципам телесной автономии и информационного самоопределения, которые лежат в основе прав на неприкосновенность частной жизни в демократических обществах.

В Великобритании в соответствии с правилами полиции и конфиденциальности используется система распознавания лиц в реальном времени, а в таких странах Северной Европы, как Финляндия, Нидерланды и Швеция, она используется в основном для ретроспективной идентификации. Швеция планирует расширить биометрические базы данных и перекрестную проверку подозреваемых с миграционными записями с 2025 года. Эти различные подходы отражают различные балансы между интересами безопасности и защитой конфиденциальности.

Охлаждающие эффекты на свободное выражение и сборку

В неправильных руках и без юридических ограничений эта информация может использоваться для инвазивного наблюдения, потенциально охлаждающего свободу слова и препятствующего публичному протесту.Когда люди знают или подозревают, что их можно идентифицировать и отслеживать с помощью распознавания лиц на публичных собраниях, они могут решить не осуществлять свои права на протест, посещать политические митинги или участвовать в других формах общественного выражения.

Этот пугающий эффект особенно актуален в контексте политического инакомыслия и социальных движений. Знание того, что распознавание лиц может быть использовано для идентификации протестующих, может сдерживать участие в демонстрациях, даже когда эти демонстрации полностью законны. Это угрожает функционированию демократического общества, которое зависит от способности граждан свободно выражать инакомыслие и организовываться коллективно, не опасаясь правительственного наблюдения и возмездия.

Потенциал злоупотреблений выходит за рамки текущих целей. После создания инфраструктуры распознавания лиц ее можно будет перепрофилировать для целей, выходящих за рамки ее первоначального обоснования. Система, используемая для выявления насильственных преступников, может быть перенаправлена на отслеживание политических диссидентов, мониторинг религиозных меньшинств или наблюдение за маргинализированными общинами. Эта миссия представляет собой постоянный риск, который трудно предотвратить с помощью одной лишь политики.

Непропорциональное влияние маргинализированных сообществ

Последствия распознавания лиц для конфиденциальности не распределены поровну по всему обществу. Сообщества, которые уже испытывают непропорциональное полицейское управление и наблюдение, сталкиваются с дополнительным бременем от развертывания распознавания лиц. ИИ с большей вероятностью будет отмечать черные лица как преступные, что приведет к нападению и аресту невинных чернокожих людей.

Предвзятость может привести к тому, что граждане будут неправомерно расследованы полицией по расовому и гендерному признаку. Это означает, что технология распознавания лиц не только не обеспечивает равной защиты, но и активно усугубляет существующее неравенство в системе уголовного правосудия. Члены общин, которые уже подвергаются чрезмерной политике, сталкиваются как с более высокими показателями наблюдения, так и с более высокими показателями неправильной идентификации.

Сочетание демографического уклона в алгоритмах распознавания лиц и существующих моделей дискриминационной полицейской деятельности создает цикл обратной связи. Предвзятые алгоритмы создают больше ложных совпадений для определенных демографических групп, что приводит к большему количеству контактов с целью расследования, что может генерировать больше записей в базе данных, что, в свою очередь, может увековечить и усилить предвзятость в системе.

Этические соображения и философские последствия

Равенство перед законом и либерально-демократические принципы

Использование правоохранительными органами технологии предвзятого распознавания лиц несовместимо с классическим либеральным требованием, чтобы правительство относилось ко всем гражданам одинаково перед законом.Когда технология систематически производит разные показатели ошибок для разных демографических групп, ее использование правительством нарушает фундаментальные принципы равного обращения и надлежащей правовой процедуры.

Даже если технология распознавания лиц может быть совершенно точной для всех демографических групп — цель, которая может быть недостижимой — ее развертывание для массового наблюдения все равно вызовет глубокие вопросы о надлежащих отношениях между гражданами и государством в свободном обществе.

Определяя технологии распознавания лиц как искусственный интеллект, мы выдвигаем на первый план объективность машинного принятия решений. Это создает ложное впечатление, что результаты, полученные этими технологиями, свободны от ошибок, которые часто совершают наши глаза или умы. Однако ИИ не совсем объективен; это набор кодов, написанных людьми, и, таким образом, он следует правилам, которые люди в него вводят. Эти правила часто кажутся прямо или косвенно предвзятыми или воспитывают неравенство, которое наши общества продолжают поддерживать.

Проблемы прозрачности и подотчетности

Распознавание лиц используется в качестве вероятной причины для ареста, несмотря на заверения в обратном. Доказательства, полученные в результате обысков по вопросам распознавания лиц, уже используются в уголовных делах, и обвиняемые лишены возможности оспорить это. Отсутствие прозрачности и подотчетности подрывает фундаментальные права на надлежащую правовую процедуру.

Многие юрисдикции не требуют от правоохранительных органов раскрывать, когда распознавание лиц использовалось в расследовании, что делает невозможным для ответчиков оспаривать достоверность доказательств или выявлять потенциальные источники ошибок.Собственные алгоритмы часто защищаются как коммерческие секреты, предотвращая независимую проверку их точности или изучение их потенциальных предубеждений.

Эта непрозрачность противоречит принципам уголовного правосудия, которые требуют от подсудимых возможности противостоять и оспаривать доказательства против них. Когда методы, используемые для идентификации подозреваемых, скрыты за запатентованными алгоритмами и нераскрытыми методами расследования, осмысленный вызов становится невозможным.

Автоматизация дискриминации

Распознавание лиц автоматизирует дискриминацию. Закодировав существующие предубеждения в алгоритмические системы и развернув эти системы в масштабе, технология распознавания лиц имеет потенциал для систематизации и усиления дискриминационных моделей, которые в противном случае могут быть оспорены или смягчены с помощью человеческого суждения и надзора.

Использование технологии распознавания лиц зависит от усмотрения человека, поскольку она развертывается и используется людьми, тем самым внося дальнейший потенциал для человеческого предубеждения. Это означает, что даже если алгоритмы могут быть совершенно нейтральными, способы, которые люди выбирают для развертывания и действия на результатах распознавания лиц, все равно введут предвзятость в систему.

Этическая проблема усугубляется внешним видом объективности, который окружает алгоритмическое принятие решений. Когда компьютерная система дает результат, она может восприниматься как более объективная или надежная, чем человеческое суждение, даже когда система на самом деле менее точна или более предвзята. Эта «автоматизация» может привести к недостаточному контролю результатов распознавания лиц и чрезмерной зависимости от некорректной технологии.

Нормативно-правовые основы и правовые разработки

Государственные и местные правила в США

В начале 2025 года в 15 штатах — Вашингтоне, Орегоне, Монтане, Юте, Колорадо, Миннесоте, Иллинойсе, Алабаме, Вирджинии, Мэриленде, Нью-Джерси, Массачусетсе, Нью-Гемпшире, Вермонте и Мэне — было принято законодательство, касающееся распознавания лиц в полиции. Эти правила значительно различаются по своим подходам и жесткости.

В некоторых штатах, таких как Монтана и Юта, требуется ордер на использование полицией распознавания лиц, в то время как другие, такие как Нью-Джерси, говорят, что обвиняемые должны быть уведомлены о его использовании в расследованиях. Требования ордера предусматривают судебный надзор до развертывания распознавания лиц, в то время как требования уведомления гарантируют, что обвиняемые могут оспорить доказательства. Оба подхода представляют собой попытки сбалансировать интересы правоохранительных органов с защитой гражданских свобод.

По меньшей мере еще семь штатов рассматривают законы, чтобы прояснить, как и когда технология может быть использована - законодатели в Джорджии, Гавайях, Кентукки, Массачусетсе, Миннесоте, Нью-Гемпшире и Западной Вирджинии ввели законодательство. Эта законодательная деятельность отражает растущее осознание последствий технологии и желание установить четкие правила, прежде чем развертывание станет более распространенным.

Более десятка крупных городов запретили технологию, в том числе Миннеаполис, Бостон и Сан-Франциско. Эти муниципальные запреты представляют собой более ограничительный подход, отражающий определения о том, что риски распознавания лиц перевешивают его преимущества для местных правоохранительных органов. Политики в расширяющемся списке городов и округов США решили запретить использование правительством распознавания лиц.

Международные нормативные подходы

Европейский союз признал эти риски всеобъемлющим законодательством. Закон ЕС об искусственном интеллекте почти полностью запрещает распознавание лиц в реальном времени правоохранительными органами. Это представляет собой один из самых ограничительных нормативных подходов во всем мире, отражающий европейский акцент на правах на неприкосновенность частной жизни и осторожность в отношении технологий наблюдения.

По состоянию на начало 2025 года 15 штатов приняли законы, регулирующие использование технологий распознавания лиц в полиции, и суды начинают требовать раскрытия информации при использовании распознавания лиц. Эта судебная тенденция к требованию раскрытия представляет собой важное развитие для надлежащей правовой процедуры и прав ответчиков, даже в юрисдикциях без специального законодательства, регулирующего распознавание лиц.

Различные страны применяют различные подходы, основанные на их правовых традициях, нормах конфиденциальности и оценках рисков и преимуществ технологии. Некоторые юрисдикции разрешают распознавание лиц с помощью гарантий, другие ограничивают его конкретными случаями использования, а третьи полностью запрещают определенные приложения. Это нормативное разнообразие отражает продолжающиеся общественные дебаты о том, как сбалансировать безопасность, конфиденциальность и гражданские свободы в эпоху биометрического наблюдения.

Призывы к мораториям и федеральным действиям

ACLU поддерживает федеральный мораторий на использование распознавания лиц в соответствии с законом и иммиграционными правоохранительными органами. Организации по гражданским свободам утверждают, что задокументированные проблемы технологии с точностью, предвзятостью и вторжением в частную жизнь требуют паузы в развертывании, пока эти проблемы не будут адекватно решены.

Хотя важно, чтобы правоохранительные органы имели возможность экспериментировать с новыми технологиями, ИИ не должен помогать принимать решения по уголовным делам до тех пор, пока технология не повысит свою точность. Должен быть мораторий на полномасштабное внедрение для анализа данных пилотных исследований для оценки результатов полицейской деятельности. Такой подход позволил бы проводить контролируемое тестирование и оценку, предотвращая широкое внедрение непроверенных технологий.

Сторонники моратория утверждают, что после широкого развертывания инфраструктуры распознавания лиц становится политически и практически трудно откатиться назад, даже если возникнут серьезные проблемы. Они утверждают, что установление надлежащих гарантий и стандартов проверки перед широким развертыванием предпочтительнее, чем попытка регулировать уже укоренившуюся технологию.

Доказательные стандарты и судебный контроль

Стандарты приемлемости научных доказательств в судах обеспечивают ценную основу для оценки действительности этих инструментов. Поскольку технология распознавания лиц приближается к использованию доказательств, она должна соответствовать тем же научным стандартам, которые суды применяют к другим судебным методам. Это означает демонстрацию надежности, достоверности, известных показателей ошибок и общего признания в соответствующем научном сообществе.

В настоящее время технология распознавания лиц часто не соответствует этим стандартам. Отсутствие стандартизации в разных системах, отсутствие комплексных исследований валидации в реальных условиях и документально подтвержденные проблемы с предвзятостью и точностью вызывают вопросы о том, должны ли доказательства распознавания лиц быть допустимыми в суде.

Некоторые суды начали требовать раскрытия информации, когда распознавание лиц использовалось для получения результатов расследования, даже если результаты технологии не были непосредственно представлены в качестве доказательств. Это представляет собой важный шаг к прозрачности и подотчетности, позволяя обвиняемым расследовать потенциальные источники ошибок и оспаривать идентификации, которые могли быть под влиянием некорректных совпадений распознавания лиц.

Пути к совершенствованию и ответственному использованию

Технические усовершенствования для уменьшения предвзятости

Исследователи в области компьютерных наук, которые все больше осознают демографическую предвзятость в технологии распознавания лиц, начинают разрабатывать программы, предназначенные специально для устранения предвзятости. Такие программы, как «DebFace», учатся контролировать расу, пол и возраст, чтобы лучше различать и идентифицировать черты лица в этих демографиях. Улучшения в этом направлении уменьшатся и, возможно, в конечном итоге устранят предвзятость в программах технологии распознавания лиц, используемых правоохранительными органами.

Использование разнообразных наборов обучения может помочь уменьшить предвзятость в производительности технологии распознавания лиц. Алгоритмы учатся сравнивать изображения путем обучения с набором фотографий. Обеспечение того, чтобы наборы данных обучения включали репрезентативные образцы из всех демографических групп, может помочь алгоритмам научиться распознавать лица по различным расам, полу, возрасту и другим характеристикам более справедливо.

Создание надежного программного обеспечения для распознавания лиц начинается со сбалансированного представления среди дизайнеров. Исследования показывают, что программное обеспечение намного лучше идентифицирует членов расы программистов. Диверсификация команд, которые разрабатывают алгоритмы распознавания лиц, может помочь выявить и устранить предубеждения, которые в противном случае могли бы остаться незамеченными однородными командами разработчиков.

Будущие исследования должны быть сосредоточены на совершенствовании алгоритмов распознавания лиц для смягчения этих предубеждений и разработке четких руководящих принципов для надлежащего использования технологии распознавания лиц в контексте расследований. Необходимо обновить правовые и политические рамки, чтобы отразить риски, связанные с неправильной идентификацией распознавания лиц.

Оперативные гарантии и передовая практика

Даже при улучшенных алгоритмах оперативные гарантии необходимы для предотвращения неправильного использования и минимизации вреда. Для руководителей полиции к матчам должны применяться единые минимумы оценки сходства. После того, как программное обеспечение распознавания лиц генерирует линейку потенциальных подозреваемых, оно ранжирует кандидатов на основе оценок сходства. Установление минимальных порогов и требование проверки совпадений человеком может уменьшить ложные срабатывания.

Помимо руководящих сотрудников, которые используют эту технологию, полиция и прокуроры должны также раскрывать, что они использовали автоматическое распознавание лиц при получении ордера. Требования к обучению и раскрытию информации помогают обеспечить надлежащее использование распознавания лиц и понимание его ограничений всеми участниками процесса уголовного правосудия.

Наилучшие методы должны включать в себя рассмотрение результатов распознавания лиц как следственных зацепок, требующих подтверждения, а не как окончательных идентификаций. Следователи должны искать независимые доказательства для подтверждения совпадений, прежде чем предпринимать действия на основе результатов распознавания лиц. Этот подход признает ограничения технологии, но при этом позволяет ей обеспечивать ценность в генерации зацепок.

Документация и аудиторские проверки также имеют решающее значение. Правоохранительные органы должны вести подробные записи о том, когда и как используется распознавание лиц, включая используемые алгоритмы, полученные оценки доверия и последующие следственные действия. Эти записи позволяют осуществлять надзор, контроль качества и подотчетность.

Независимое тестирование и валидация

Закон об алгоритмической подотчетности и Закон об алгоритмах судебной экспертизы 2019 года направлены на то, чтобы помочь в этом процессе, требуя от компаний оценивать свои алгоритмы для предвзятых результатов. NIST может разработать консультативную группу, которая рассматривает отчеты, аналогичные тому, как академические журналы используют редакционные советы и внешних рецензентов для проверки новых исследований. Также приоритетом должно быть предотвращение исследований, которые не включают должным образом группы меньшинств.

Независимая проверка важна, поскольку у поставщиков есть финансовые стимулы для представления своей продукции в наиболее благоприятном свете. Стороннее тестирование в реалистичных условиях с различными группами тестов и качеством изображения, представляющим фактические судебные приложения, может обеспечить более надежную оценку производительности системы, чем требования о точности, поставляемые поставщиком.

В ходе исследований по валидации следует изучать не только общую точность, но и показатели работы в различных демографических группах, в различных условиях качества изображения и в оперативных контекстах, отражающих реальное использование. Показатели ошибок должны быть четко документированы и раскрыты пользователям, а системы, которые демонстрируют неприемлемые проблемы смещения или точности, не должны использоваться в правоохранительных целях.

Прозрачность и общественный контроль

С ростом числа полицейских департаментов по всей стране, которые обращаются к нерегулируемой, непроверенной и некорректной технологии распознавания лиц для выявления подозреваемых, жизненно важно, чтобы защитники понимали технологию, ее ограничения и как оспорить ее использование в своих случаях.

Требования к публичной отчетности могут обеспечить демократическую подотчетность. Правоохранительные органы должны публиковать регулярные отчеты, подробно описывающие их использование распознавания лиц, включая количество проведенных поисков, цели, для которых использовалась технология, количество спичек, и результаты расследований, начатых на основе лидов распознавания лиц.

Решения о том, следует ли и каким образом внедрять технологию распознавания лиц, должны включать в себя общественное обсуждение и вклад пострадавших общин, а не только правоохранительных органов и поставщиков технологий. Гражданские наблюдательные советы могут обеспечивать постоянный мониторинг использования распознавания лиц и расследовать жалобы на неправильное использование или вред.

Ограничение сферы и цели

Некоторые юрисдикции решили ограничить распознавание лиц конкретными случаями использования, которые, как считается, представляют приемлемые компромиссы между риском и выгодой. Новые правила, принятые в Детройте в 2019 году, ограничивают использование распознавания лиц фотографиями, связанными с насильственными преступлениями и вторжениями в дома. Этот подход пытается сохранить преимущества технологии для серьезных расследований, ограничивая ее использование для мелких правонарушений или широкого наблюдения.

Запрет на распознавание лиц в реальном времени при разрешении ретроспективного анализа отснятого материала представляет собой еще один подход к ограничению объема. Наблюдение в реальном времени представляет собой более высокие риски для конфиденциальности и потенциал для злоупотреблений, чем анализ отснятого материала после совершения преступления. Ограничение распознавания лиц на следственные, а не на надзорные приложения может помочь сбалансировать конкурирующие интересы.

Ограничения по назначению также могут помочь предотвратить ползучесть миссии. Системы распознавания лиц, развернутые для конкретных целей, таких как выявление подозреваемых в насильственных преступлениях, не должны быть перепрофилированы для несвязанных целей без общественного обсуждения и соответствующего разрешения. Четкая политика, определяющая допустимое и запрещенное использование, может помочь предотвратить постепенное расширение возможностей наблюдения.

Будущие направления и новые технологии

Достижения в области искусственного интеллекта и машинного обучения

Технология распознавания лиц продолжает быстро развиваться по мере развития технологий искусственного интеллекта и машинного обучения. Подходы к глубокому обучению значительно улучшили точность распознавания по сравнению с более ранними методами, и текущие исследования направлены на дальнейшее повышение производительности, особенно в сложных условиях и среди различных групп населения.

Исследователи разрабатывают алгоритмы, которые могут лучше справляться с частичными окклюзиями, экстремальными позами, старением и другими факторами, которые ухудшают текущую производительность системы. Такие методы, как генеративные состязательные сети (GAN), могут синтезировать данные обучения для устранения дисбалансов наборов данных, потенциально снижая демографические предубеждения. Методы трансферного обучения и адаптации домена направлены на улучшение производительности, когда системы сталкиваются с условиями, отличными от их среды обучения.

Однако одни только технические усовершенствования не могут решить все проблемы распознавания лиц. Даже совершенно точное распознавание лиц по-прежнему вызывает глубокую обеспокоенность в отношении конфиденциальности и гражданских свобод. Вопрос заключается не только в том, можно ли сделать технологию более эффективной, но и в том, следует ли и как ее использовать в демократических обществах, приверженных правам и свободам личности.

Интеграция с мультимодальными биометрическими системами

Будущие судебно-медицинские системы, вероятно, интегрируют распознавание лиц с другими биометрическими методами для повышения точности и надежности.Сочетание распознавания лиц с анализом походки, распознаванием голоса или другими идентификационными характеристиками может обеспечить подтверждающие доказательства и уменьшить зависимость от любого отдельного метода идентификации.

Мультимодальные подходы также могут помочь устранить некоторые ограничения распознавания лиц. Когда изображения лиц низкого качества или лица частично затенены, могут быть доступны другие биометрические показатели. Однако мультимодальные системы также вызывают дополнительные проблемы конфиденциальности, поскольку они позволяют еще более всеобъемлющее наблюдение и отслеживание лиц.

Интеграция распознавания лиц с другими источниками данных — данными о местоположении, анализом социальных сетей, поведенческими моделями — создает мощные возможности для расследования, но также и беспрецедентный потенциал наблюдения. Установление соответствующих ограничений на интеграцию и использование данных будет иметь решающее значение по мере развития этих технологий.

Объясняемый ИИ и интерпретируемость

Современные системы распознавания лиц часто функционируют как «черные ящики», производя результаты, не объясняя, как они пришли к своим выводам. Эта непрозрачность затрудняет выявление ошибок, понимание предубеждений или оспаривание результатов в судебных разбирательствах. Объяснимые исследования ИИ направлены на разработку систем, которые могут обеспечить интерпретируемые объяснения их решений.

Для судебных применений объяснимость может помочь экспертам-людям понять, почему система произвела определенное соответствие, определить потенциальные источники ошибок и принять более обоснованные решения о том, следует ли проводить расследования. Объясняемые системы также могут облегчить юридические проблемы с доказательствами распознавания лиц, сделав основу для идентификации прозрачной и подлежащей проверке.

Однако разработка действительно объяснимых систем распознавания лиц остается серьезной технической проблемой. Глубокие нейронные сети, которые обеспечивают современное распознавание лиц, по своей сути сложны, и упрощенные объяснения могут не точно отражать то, как системы на самом деле функционируют. Балансирование интерпретируемости с производительностью потребует постоянных исследований и разработок.

Технологии сохранения конфиденциальности

Исследователи изучают подходы к распознаванию лиц, сохраняющие конфиденциальность, которые могут позволить некоторые полезные приложения, одновременно ограничивая риски наблюдения. Такие методы, как гомоморфное шифрование, позволяют вычислять зашифрованные данные, потенциально позволяя поиск распознавания лиц без раскрытия необработанных биометрических данных. Федеративные подходы к обучению могут обучать модели распознавания лиц без централизации конфиденциальных данных.

Обработка на устройстве, где распознавание лиц происходит локально на устройстве, а не в централизованных базах данных, может снизить риски конфиденциальности для некоторых приложений.Дифференциальные методы конфиденциальности могут добавить математические гарантии того, что индивидуальная конфиденциальность защищена даже при анализе агрегированных данных.

Однако эти подходы к сохранению конфиденциальности имеют ограничения и могут не подходить для всех судебных приложений. Фундаментальное напряжение между возможностью идентификации и защитой конфиденциальности не может быть полностью решено только с помощью технических средств. Выбор политики относительно того, какие виды использования распознавания лиц приемлемы, остается необходимым независимо от технических средств защиты конфиденциальности.

Противостоящие методы и контрмеры

По мере того, как технология распознавания лиц становится все более распространенной, также развиваются методы уклонения или поражения. Противостоящие примеры - тщательно продуманные возмущения изображений, которые приводят к сбоям систем распознавания лиц или дают неправильные результаты - демонстрируют уязвимости в текущих системах. Физические состязательные методы, такие как специально разработанный макияж или аксессуары, могут обмануть распознавание лиц, показываясь относительно нормальными для наблюдателей человека.

Эти состязательные методы вызывают сложные вопросы для судебных применений. С одной стороны, они представляют собой потенциальные уязвимости безопасности, которые могут использовать преступники. С другой стороны, они предоставляют людям потенциальные средства для защиты их частной жизни от нежелательного наблюдения. Разработка как состязательных методов, так и контрмер для их обнаружения, вероятно, будет продолжаться как продолжающаяся технологическая гонка вооружений.

Для судебно-медицинских экспертов осведомленность о методах защиты от столкновений важна для понимания ограничений распознавания лиц и потенциала преднамеренного уклонения. Системы, которые являются надежными против атак противника, будут более надежными для судебных целей, но совершенная надежность может быть недостижимой.

Баланс между инновациями, безопасностью и правами

Необходимость доказательной политики

Несмотря на широкое распространение, строгие эмпирические исследования, демонстрирующие, что распознавание лиц на самом деле снижает преступность или улучшает результаты общественной безопасности, отсутствуют. Ограниченные и смешанные оперативные данные свидетельствуют о возможных достижениях в эффективности расследований и результатах общественной безопасности в контексте серьезных преступлений, хотя доказательная база остается тонкой.

Политические решения о распознавании лиц должны основываться на фактических данных о его эффективности, а не только на теоретических возможностях или заявлениях поставщиков. Контролируемые исследования, сравнивающие результаты расследования с распознаванием лиц и без него, учитывающие затраты и вред, а также выгоды, обеспечили бы более прочную основу для политических решений.

Отсутствие убедительных доказательств эффективности в сочетании с документально подтвержденным вредом, включая неправомерные аресты и вторжения в частную жизнь, предполагает, что осторожность оправдана. Бремя должно быть на сторонниках распознавания лиц, чтобы продемонстрировать, что его преимущества оправдывают его затраты и риски, а не на критиках, чтобы доказать, что он не должен использоваться.

Демократическое обсуждение и голос сообщества

Решения о развертывании системы распознавания лиц должны приниматься не только правоохранительными органами и поставщиками технологий. Это в основном политические вопросы о том, в каком обществе мы хотим жить, о взаимоотношениях между гражданами и государством и о балансе между безопасностью и свободой. Демократические обсуждения и вклад сообщества имеют важное значение.

Сообщества, наиболее затронутые распознаванием лиц, включая сообщества цвета, которые испытывают как более высокие показатели наблюдения, так и более высокие показатели ошибок от предвзятых алгоритмов, должны иметь значимый голос в решениях о том, следует ли и как развертывать технологию. Их перспективы и проблемы должны быть сосредоточены в политических дискуссиях, а не рассматриваться как запоздалые мысли.

Для информированного демократического обсуждения необходимо просвещение общественности по вопросам технологии распознавания лиц, ее возможностей, ограничений и последствий. Многие люди не знают, насколько широко используется распознавание лиц или как оно на них влияет. Прозрачность в отношении текущих видов использования и предлагаемых расширений может способствовать более информированным публичным дебатам.

Международное сотрудничество и нормотворчество

Технология распознавания лиц и проблемы, которые она представляет, носят глобальный характер. Международное сотрудничество в области стандартов, передовой практики и норм может помочь обеспечить, чтобы технология разрабатывалась и применялась ответственно через границы. Такие организации, как Интерпол, Организация Объединенных Наций и региональные органы, могут способствовать диалогу и координации.

Однако различные общества могут прийти к различным выводам о приемлемом использовании распознавания лиц на основе их ценностей, правовых традиций и политических систем. Что уместно в одном контексте, может быть не в другом. Международное сотрудничество должно уважать это разнообразие, одновременно работая над предотвращением наихудших злоупотреблений и установлением базовых мер защиты прав человека.

Развитие международных норм в области распознавания лиц все еще находится на ранних стадиях. По мере развития и распространения технологии постоянный диалог о надлежащем использовании, необходимых гарантиях и основных правах будет иметь важное значение для предотвращения глобальной антиутопии наблюдения при сохранении законных интересов безопасности.

Путь вперед

Даже в самых сложных условиях и для наиболее пострадавших подгрупп точность технологии распознавания лиц остается существенно выше, чем у многих традиционных судебно-медицинских методов. Это говорит о том, что, если ее надлежащим образом проверить и регулировать, технологию распознавания лиц следует считать полезным инструментом расследования. Вопрос заключается не в том, имеет ли распознавание лиц какие-либо законные судебные применения, а в том, как реализовать потенциальные выгоды при предотвращении вреда.

До тех пор, пока не будет устранена предвзятость, не только необходимо будет скорректировать технологические программы распознавания лиц для контроля за предвзятостью, правоохранительные органы должны знать о существующих в настоящее время предвзятых алгоритмах и наборах данных в программах ИИ и быть готовыми потребовать тестирования, которое бы отсеивало такие предубеждения, прежде чем ошибки в поле приведут к нарушениям принципа равного отношения ко всем перед законом.

Вместо того чтобы пытаться найти какое-то магическое число, политики должны сосредоточиться на том, как любое использование распознавания лиц может расширить дискриминационную полицию, массово расширить власть правительства и угрожать основным правам. Технические показатели эффективности, хотя и важны, не могут быть единственной основой для политических решений о такой последовательной технологии.

Для продвижения вперед необходимы многочисленные параллельные усилия: продолжение технических исследований для повышения точности и уменьшения предвзятости; разработка и обеспечение соблюдения прочной нормативной базы; механизмы транспарентности и подотчетности; независимая проверка и тестирование; участие общин и демократические обсуждения; и постоянная бдительность в отношении ползучести и злоупотреблений в миссиях. Не будет достаточно единого вмешательства; необходимы всеобъемлющие подходы, направленные на технические, правовые, этические и социальные аспекты.

В конечном счете, технология распознавания лиц в судебно-медицинской экспертизе места преступления представляет как возможности, так и риски. Она предлагает возможности, которые могут помочь законным правоохранительным функциям, но она также угрожает конфиденциальности, гражданским свободам и равенству способами, которые демократические общества не могут игнорировать. Как мы ориентируемся в этих напряженных отношениях, будет формировать не только будущее уголовного правосудия, но и характер наших обществ и отношения между людьми и государством в цифровую эпоху.

Вывод: технологии, справедливость и демократические ценности

Технология распознавания лиц стала глубоко внедренной в криминалистический анализ мест преступлений и правоохранительные операции по всему миру. Ее способность быстро идентифицировать людей по изображениям, искать обширные базы данных и обрабатывать огромные объемы видеоматериалов наблюдения представляет собой значительный прогресс в способности к расследованию. Для определенных приложений - выявление жертв стихийных бедствий, поиск пропавших без вести, создание потенциальных клиентов в серьезных уголовных расследованиях - технология предлагает подлинную ценность.

Однако внедрение распознавания лиц в правоохранительных органах также представляет серьезные проблемы, которые нельзя игнорировать или минимизировать. Документированные проблемы с точностью, особенно в реальных условиях, распространенных в судебных приложениях, поднимают вопросы о надежности. Демографическая предвзятость, которая приводит к значительно более высоким показателям ошибок для женщин и цветных людей, нарушает фундаментальные принципы равного обращения и приводит к незаконным арестам и расследованиям. Последствия массового биометрического наблюдения угрожают свободам выражения мнений, ассоциации и движения, которые необходимы для демократического общества.

Быстрое внедрение технологии часто опережает разработку соответствующих нормативных рамок, стандартов проверки и механизмов надзора. Многие юрисдикции используют распознавание лиц с минимальной прозрачностью, подотчетностью или общественным вкладом. Собственные алгоритмы работают как черные ящики, что затрудняет выявление ошибок или оспаривание результатов. Отсутствие стандартизации и строгой проверки означает, что распознавание лиц не соответствует научным стандартам, ожидаемым от судебных доказательств.

Для продвижения вперед необходимо признать потенциал технологии и ее проблемы. Технические усовершенствования для уменьшения предвзятости и повышения точности важны, но недостаточны. Сильная нормативная база, устанавливающая четкие правила о том, когда, как и для каких целей может использоваться распознавание лиц. Механизмы прозрачности и подотчетности должны обеспечивать возможность надзора и позволять отдельным лицам оспаривать доказательства, полученные в результате распознавания лиц. Независимая проверка и тестирование должны проверять требования к производительности и выявлять ограничения.

Возможно, самое главное, что решения о внедрении распознавания лиц должны приниматься демократическим путем, при значимом участии пострадавших сообществ и общественности, а не только правоохранительных органов и поставщиков технологий. Это не просто технические вопросы, но фундаментальный выбор о том, в каком обществе мы хотим жить. Удобство и эффективность, которые предлагает распознавание лиц, должны быть сопоставлены с его затратами на неприкосновенность частной жизни, свободу и равенство.

По мере развития технологии распознавания лиц и расширения ее использования будет необходима постоянная бдительность для предотвращения злоупотреблений и защиты прав. Выбор, который мы делаем сейчас о том, как управлять этой мощной технологией, будет иметь долгосрочные последствия для уголовного правосудия, гражданских свобод и демократического управления. Настаивая на политике, основанной на фактических данных, сильных гарантиях, прозрачности и демократической подотчетности, мы можем работать над подходами, которые используют законные преимущества распознавания лиц, предотвращая при этом его самый серьезный вред.

Для получения дополнительной информации о технологии распознавания лиц и ее последствиях, посетите Страница распознавания лиц Electronic Frontier Foundation, Ресурсы ACLU по распознаванию лиц, Национальный институт стандартов и технологий по распознаванию лиц, Центр Джорджтаунского права по вопросам конфиденциальности и безопасности; Технологиии Анализ института Брукингса по регулированию распознавания лиц.