Бесплатно Экспресс-аудит сайта:

27.05.2023

Система распознавания лиц метрополитена Лондона предвзята к чернокожим

На заседании парламентского комитета по науке, инновациям и технологиям Великобритании было заявлено, что система распознавания лиц, используемая метрополитеном Лондона во время коронации короля, может проявлять расовую предвзятость при определенных пороговых значениях. 6 мая 2023 года в Лондоне состоялась коронация британского короля Карла III.

Доктор Тони Мэнсфилд, главный научный сотрудник Национальной физической лаборатории, сказал депутатам, что система, основанная на продукте компании NEC и применяемая крупнейшим полицейским управлением страны, склонна к предвзятости против чернокожих людей на тестовых данных, созданных для его исследований.

Было обнаружено, что, если система работает на низких и легких порогах совпадения, то она начинает показывать предвзятость против чернокожих мужчин и женщин вместе. Мэнсфилд полагает, что метрополитен не использует систему на таких пороговых значениях.

Согласно отчёту доктора , ложноположительные идентификации увеличиваются при низких порогах совпадения лиц (0.58 и 0.56) и «начинают показывать статистически значимый дисбаланс между демографическими группами: у чернокожих больше ложноположительных срабатываний, чем у азиатских или белых».

Однако система NEC Neoface при более высоких порогах (0.64 или выше) не давала ложноположительных идентификаций и, следовательно, не имела предвзятости. При среднем пороге (0.60 – 0.62) система давала 8 ложноположительных результатов, но не имела статистически значимой предвзятости по демографическим признакам.

Представитель метрополитена заявил, что после публикации исследования система использовалась 3 раза, в том числе в некоторых районах Лондона и во время коронации короля.

В ходе операций полиции, в которых использовали 6 полицейских фургонов, было 4 оповещения, а ложноположительные результаты отсутствовали вовсе. Было 2 ареста, а по оставшимся оповещениям полицейские решили, что арест не требуется, хотя идентификация была правильной.

На каждой операции полиция создавала отдельный набор данных для «списка наблюдения» на основе местоположения и «разведывательного дела» для операции. После каждой операции список наблюдения удалялся. Никакие данные из операций по распознаванию лиц в режиме реального времени не хранились, как утверждает представитель метрополитена.