Система распознавания лиц от Amazon перепутала конгрессменов США с злоумышленниками
Американский союз защиты гражданских свобод провел тестирование системы распознавания лиц Amazon Rekognition, которая, по заявлению разработчиков, помогает искать детей, отслеживать нарущения ПДД и даже вычислять правонарушителей.
Согласно сообщению NYT, больше всего членов Американского союза защиты гражданских свобод ошеломило, что система назвала злоумышленником парламентария Джона Льюиса, который занимается защитой прав чернокожих.
Система Rekognition выдала 28 ложных срабатываний, посчитав 28 конгрессменов правонарушителями, пишет Android-Robot.com.
В процессе контроля в систему было загружено около 500 фотографий американских конгрессменов. Они взяли фотографии всех 535 конгрессменов США и просканировали их с применением базы данных лиц, обвиняемых в совершении тяжких правонарушений, скрывающихся от правосудия, состоящей из 25 тыс. снимков. В конечном итоге система нашла 28 совпадений.
Профессионалы компании Amazon, которая предоставляет системы распознавания лиц полицейским и охранным организациям, считают, что в таких результатах виновата калибровка.
В Amazon уже отреагировали на тестирование системы. Было сказано, что при проверке работники союза выставили очень небольшие параметры около 80%, при том что распознавание лиц правильно работает только при показателе свыше 95%. «Однако ежели идет речь об идентификации людей, то показатель должен быть по крайней мере 95%», — пояснили в Amazon.
