Искусственный интеллект действительно повсюду в нашей повседневной жизни, и одной из областей, которая привлекает большое внимание, является его использование в системах распознавания лиц (FRS). Этот спорный набор технологий является одним из самых горячо обсуждаемых среди активистов защиты конфиденциальности данных, государственных чиновников и сторонников более жестких мер по борьбе с преступностью.
На эту тему было пролито достаточно чернил, чтобы заполнить библиотеки, но эта статья предназначена для того, чтобы выделить некоторые ключевые аргументы, точки зрения и общую информацию, связанную с системами распознавания лиц и их влиянием на нашу частную жизнь сегодня.
Оглавление
- Что такое системы распознавания лиц?
- Как работают системы распознавания лиц?
- Варианты использования систем распознавания лиц
- Кто разрабатывает системы распознавания лиц?
- Это проблема?
- Зачем использовать распознавание лиц?
- Зачем запрещать технологию распознавания лиц?
- Последние мысли
- Что такое системы распознавания лиц?
Реальные технологии, лежащие в основе FRS, и те, кто их разрабатывает, могут быть сложными. Лучше иметь общее представление о том, как работают эти системы, прежде чем углубляться в вопросы этики и конфиденциальности, связанные с их использованием.
Как работают системы распознавания лиц?
На базовом уровне системы распознавания лиц работают в три этапа.
Это фото или видео затем передаются в программу искусственного интеллекта, которая затем отображает и анализирует геометрию лица человека, например расстояние между глазами или контуры лица. ИИ также определяет определенные ориентиры лица, такие как лоб, глазницы, глаза или губы.
Наконец, все эти ориентиры и измерения объединяются для создания цифровой подписи, которую ИИ сравнивает со своей базой данных цифровых подписей, чтобы увидеть, есть ли совпадение, или подтвердить
Варианты использования систем распознавания лиц
Такая технология, как распознавание лиц, широко применима в ряде различных отраслей. Двумя наиболее очевидными являются правоохранительные органы и безопасность.
С помощью программного обеспечения для распознавания лиц правоохранительные органы могут отслеживать подозреваемых и правонарушителей, которым не посчастливилось попасть на камеру, в то время как охранные фирмы могут использовать его как часть своих мер контроля доступа, проверяя лица людей так же легко, как они проверяют их удостоверения личности или бейджи.
Контроль доступа в целом является наиболее распространенным вариантом использования распознавания лиц на данный момент. Как правило, он опирается на меньшую базу данных (т. е. людей, допущенных в определенное здание), а это означает, что ИИ с меньшей вероятностью выдаст ложное срабатывание или аналогичную ошибку. Кроме того, это настолько широкий вариант использования, что почти любая вообразимая отрасль может найти причину для внедрения этой технологии.
Распознавание лиц также является горячей темой в сфере образования, особенно в США, где поставщики предлагают системы наблюдения с распознаванием лиц в качестве потенциального решения проблемы стрельбы в школах, от которой страна страдает больше, чем
В здравоохранении распознавание лиц теоретически можно сочетать с новыми технологиями, такими как распознавание эмоций, для улучшения понимания пациентов, например, возможности обнаруживать боль или отслеживать состояние их здоровья. Его также можно использовать во время регистрации в качестве бесконтактной альтернативы традиционным процедурам регистрации.
Во время пандемии
Некоторые рабочие места уже используют распознавание лиц как часть своих процедур круглосуточной работы. Это также рассматривается как способ мониторинга производительности и активности сотрудников, не позволяющий людям «спать на работе», так сказать.
Такие компании, как HireVue, разрабатывали программное обеспечение, использующее распознавание лиц, которое может определять возможность найма потенциальных сотрудников. Однако в 2021 году она прекратила выпуск части своего программного обеспечения для анализа лиц. В своем заявлении фирма сослалась на общественную обеспокоенность по поводу ИИ и растущую девальвацию визуальных компонентов в отношении эффективности программного обеспечения.
Розничные продавцы, которые продают продукты с возрастными ограничениями, такие как бары или продуктовые магазины с лицензиями на продажу спиртных напитков, могут использовать распознавание лиц, чтобы лучше предотвратить покупку этих продуктов несовершеннолетними покупателями.
Кто разрабатывает системы распознавания лиц?
Люди, разрабатывающие FRS, часто являются теми же обычными подозреваемыми, которые продвигают вперед другие области технических исследований. Как всегда, ученые являются одними из основных участников инноваций в области распознавания лиц. Эта область была начата в академических кругах в
В современном примере Китайский университет Гонконга создал алгоритм GaussianFace в 2014 году, который, по сообщениям его исследователей, превзошел человеческий уровень распознавания лиц. Алгоритм показал точность 98,52% по сравнению с 97,53% точностью действий человека.
В корпоративном мире технологические гиганты, такие как Google, Facebook, Microsoft, IBM и Amazon, были лишь некоторыми из имен, ведущих борьбу.
Распознавание лиц Google используется в приложении «Фотографии», которое в 2015 году ошибочно назвало изображение
Amazon даже продавала свою систему распознавания лиц Rekognition правоохранительным органам до 2020 года, когда они запретили использование программного обеспечения полицией. Запрет все еще действует на момент написания этой статьи.
Facebook использовал технологию распознавания лиц на своей платформе социальных сетей на протяжении большей части жизненного цикла платформы. Тем не менее, компания закрыла программное обеспечение в конце 2021 года как «часть общекорпоративного шага по ограничению использования распознавания лиц в [ее] продуктах».
Кроме того, есть фирмы, которые специализируются на программном обеспечении для распознавания лиц, такие как Kairos, Clearview AI и Face First, которые делятся своими знаниями и опытом в этой области.
Это проблема?
Чтобы ответить на вопрос «должны ли мы беспокоиться о системах распознавания лиц», лучше всего рассмотреть некоторые аргументы, которые обычно используют сторонники и противники распознавания лиц.
Зачем использовать распознавание лиц?
Самый распространенный аргумент в пользу программного обеспечения для распознавания лиц заключается в том, что оно обеспечивает большую безопасность для всех участников. В случаях корпоративного использования работодатели могут лучше управлять контролем доступа, снижая при этом вероятность того, что сотрудники станут жертвами кражи личных данных.
Представители правоохранительных органов говорят, что использование FRS может помочь их следственным возможностям быстрее и точнее поймать преступников. Его также можно использовать для отслеживания жертв торговли людьми, а также лиц, которые могут быть не в состоянии общаться, например, людей с деменцией. Теоретически это могло бы уменьшить количество смертей по вине полиции в делах, связанных с этими лицами.
Торговля людьми и преступления на сексуальной почве — частый рефрен сторонников этой технологии в правоохранительных органах. Вермонт, штат с самым строгим запретом на распознавание лиц, немного ослабил запрет, чтобы разрешить его использование при расследовании преступлений на сексуальной почве среди детей.
Для банков распознавание лиц может снизить вероятность и частоту мошенничества. С биометрическими данными, которые необходимы для распознавания лиц, преступники не могут просто украсть пароль или
Наконец, некоторые сторонники говорят, что технология сейчас настолько точна, что опасения по поводу ложных срабатываний и отрицательных результатов едва ли должны вызывать беспокойство. Согласно отчету Национального института стандартов и технологий за 2022 год, лучшие алгоритмы распознавания лиц могут иметь показатель успеха более 99%, в зависимости от обстоятельств.
С такой точностью и такими надежными вариантами использования распознавание лиц может быть просто одной из самых справедливых и эффективных технологий, которые мы можем использовать в образовании, бизнесе и правоохранительных органах, верно? Не так быстро, говорят критики технологии.
Зачем запрещать технологию распознавания лиц?
Хотя в академических кругах проводится много исследований по распознаванию лиц, именно здесь высказываются многие опасения и критика в отношении использования технологии в таких сферах жизни, как образование или правоохранительные органы.
Профессор права и информатики
Опасения по поводу конфиденциальности многочисленны. Как написала исследователь этики ИИ Розали А. Уэлен в статье 2022 года для AI & Ethics, «ожидается, что [FRS] станет вездесущим и сможет делать выводы из самых разных сведений о человеке». Информация, которую он предназначен для вывода, не обязательно является информацией, которую человек готов раскрыть.
Технология распознавания лиц продемонстрировала трудности с идентификацией людей разных рас, этнических групп, полов и возрастов. Это, при использовании правоохранительными органами, потенциально может привести к ложным арестам, тюремному заключению и другим проблемам.
Собственно говоря, уже есть. В Детройте чернокожий Роберт Уильямс был ошибочно идентифицирован программным обеспечением для распознавания лиц как вор часов и ложно арестован в 2020 году. Уильямс уже не тот человек.
Это был не единственный случай в Детройте. Программное обеспечение для распознавания лиц ошибочно назвало Майкла Оливера тем, кто бросил сотовый телефон учителя и разбил его.
Похожий случай произошел с Ниджером Парксом в конце 2019 года в
Кроме того, по мнению критиков, в программном обеспечении для распознавания лиц и в том, как оно анализирует человека, присутствует неотъемлемо дегуманизирующий элемент. Вспомните вышеупомянутый инцидент, когда Google Фото ошибочно назвал Джеки Альсине и его друга «гориллами». Он даже не признал их людьми. Учитывая, что Google отреагировал на ситуацию, убрав «гориллу» и подобные категории, он, возможно, до сих пор этого не делает.
Наконец, возникает вопрос о том, что произойдет, если технология будет на 100% точной. Элемент дегуманизации не исчезнет просто так, если Фото может внезапно определить, что цветной человек на самом деле является цветным человеком.
То, как эти машины видят нас, коренным образом отличается от того, как мы видим друг друга, потому что взгляд машин идет только в одну сторону. Как сказал Андреа Бригенти, «ведет к качественно иному способу видения... [субъект] даже не является полностью человеком. Одностороннему взгляду присуща своего рода дегуманизация наблюдаемого».
Чтобы заставить ИИ распознавать человеческие лица, вы должны научить его тому, что такое человек, что в некоторых случаях может заставить его брать определенные человеческие характеристики за пределы своего набора данных и определять их как явно «нечеловеческие».
Тем не менее, повышение точности технологии распознавания лиц для обнаружения цветных людей на самом деле служит только совершенствованию правоохранительных органов и слежки, связанной с бизнесом. Это означает, что, как отметили исследователи Никки Стивенс и Ос Киз в своей статье 2021 года для академического журнала «Культурные исследования», эти улучшения представляют собой просто «усилия по увеличению представительства — это просто усилия по увеличению способности коммерческих организаций использовать, отслеживать и контролировать цветных людей». «.
Последние мысли
В конечном счете, то, насколько человек беспокоится о технологии распознавания лиц, сводится к вопросу доверия. Насколько человек доверяет полиции, Amazon или любому случайному человеку, получившему в свои руки это программное обеспечение и силу, которую оно предоставляет, что они будут использовать его только «по правильным причинам»?
Эта технология наделяет институты властью, и, думая о наделении властью организации или учреждения, в первую очередь следует учитывать возможность злоупотребления этой властью. Для распознавания лиц, особенно для правоохранительных органов, этот потенциал довольно велик.
В интервью для этой статьи Фредерик Ледерер, профессор юридической школы William & Mary и директор Центра юридических и судебных технологий, поделился своим взглядом на потенциальные злоупотребления, которые системы распознавания лиц могут способствовать в правовой системе США:
«Давайте представим, что мы пропускаем информацию через систему распознавания лиц, и она выдает 20 [возможных подозреваемых], и мы классифицируем этих возможных людей с точки зрения вероятности. Мы точно знаем, что система неточна и даже при самых лучших обстоятельствах может быть совершенно ошибочной.
Если сейчас произойдет то, что полиция использует это как механизм для сосредоточения внимания на людях и проведения надлежащего расследования, я признаю возражения по поводу конфиденциальности, но мне кажется, что это довольно разумное использование.
Проблема в том, что полицейские, сотрудники правоохранительных органов — тоже люди. Они сильно напряжены и перегружены работой. И то немногое, что я знаю о реальности в этой области, предполагает, что существует большая тенденция бросать всех, кроме одного с наибольшей вероятностью, и давайте пойдем и арестуем его».
Однако профессор Ледерер считает, что это опасная идея:
«...поскольку, как минимум, система работает так, что человеку может быть практически невозможно избежать того, что происходит в системе, до тех пор, пока... в конечном итоге не будет вынесен обвинительный приговор».
Ледерер объясняет, что Билль о правах гарантирует людям право на «быстрое судебное разбирательство». Тем не менее, судебные интерпретации подтвердили, что арестованные проведут в тюрьме не менее года, прежде чем суды даже задумаются о скорейшем судебном разбирательстве.
Добавьте к этому сделку о признании вины:
«...Теперь, и у меня нет цифр, нередко человеку, находящемуся в тюрьме в ожидании суда, предлагают следующую сделку: „признайте себя виновным, и мы увидим, что вы приговорены к сроку, который вы уже был [в тюрьме] в предварительном суде, и вы можете идти домой завтра“. Человеку требуется огромное мужество, чтобы сказать: „Нет, я невиновен и останусь здесь столько, сколько потребуется“.
Так что, если на самом деле мы арестовываем не того человека, если нет до боли очевидных доказательств того, что этот человек не тот, у нас, вполне вероятно, будут люди, которые будут отбывать длительный срок в ожидании суда, и довольно много из них вполне могут признать себя виновными только для того, чтобы выйти из процесса.
Поэтому, когда вы начинаете думать об ошибке распознавания лиц, вы не можете рассматривать ее изолированно. Вы должны спросить: „Как реальные люди будут обращаться с этой информацией и в какой степени это коррелирует со всем остальным, что происходит?“ И в этот момент есть несколько действительно хороших опасений».
Как указал Ледерер, такие нарушения уже происходят в системе, но системы распознавания лиц могут усугубить эти нарушения и даже увеличить их. Они могут увековечить ранее существовавшие предубеждения и системные недостатки, и даже если их потенциальные выгоды заманчивы, потенциальный вред слишком очевиден и реален, чтобы его игнорировать.
Из изученных жизнеспособных вариантов использования распознавания лиц наиболее близким к «безопасному» варианту использования является проверка личности. Однако существует множество одинаково эффективных методов проверки личности, некоторые из которых используют биометрические данные, такие как отпечатки пальцев.
На самом деле не может быть никакого «безопасного» варианта использования технологии распознавания лиц. Любые достижения в этой области неизбежно будут способствовать функциям наблюдения и контроля, которые были ключевыми для технологии с самого начала.
На данный момент Ледерер сказал, что не пришел к
