Технология распознавания лиц Amazon демонстрирует гендерные и расовые предрассудки
По словам исследователей из Массачусетского технологического института и Университета Торонто, технология распознавания лиц, которую Amazon продает правоохранительным органам, часто неверно определяет женщин, особенно с более темной кожей. Защитники конфиденциальности и гражданских прав призвали Amazon прекратить маркетинг своей службы Rekognition из-за опасений по поводу дискриминации меньшинств.
Некоторые инвесторы Amazon также просят компанию не бояться, что это делает Amazon уязвимой для судебных процессов.
Исследователи заявили, что в своих тестах технология Amazon помечала темнокожих женщин как мужчин в 31% случаев. Светлокожих женщин неправильно идентифицировали в 7% случаев. У темнокожих мужчин был 1 процент ошибок, в то время как у светлокожих мужчин их не было.
Искусственный интеллект может имитировать предубеждения своих человеческих создателей, когда они пробиваются в повседневную жизнь. Новое исследование, опубликованное поздно вечером в четверг, предупреждает о возможном злоупотреблении и угрозах неприкосновенности частной жизни и гражданских свобод со стороны технологии обнаружения лица.
Мэтт Вуд, генеральный менеджер отдела искусственного интеллекта подразделения облачных вычислений Amazon, сказал, что в исследовании используется технология «анализа лица», а не «распознавания лиц». Вуд сказал, что анализ лица «может определять лица на видео или изображениях и назначать общие атрибуты, такие как ношение очков; распознавание — это другой метод, с помощью которого индивидуальное лицо сопоставляется с лицами на видео и изображениях».
В пятничной публикации на сайте Medium исследователь MIT Media Lab Джой Буоламвини ответила, что компании должны проверять все системы, которые анализируют человеческие лица на предмет предвзятости.
«Если вы продаете одну систему, которая, как было показано, имеет предубеждение на человеческих лицах, сомнительно, что ваши другие продукты на основе лица также полностью свободны», — написала она.
Реакция Amazon показывает, что она не воспринимает «действительно серьезные опасения, выявленные в этом исследовании», сказал Джейкоб Сноу, адвокат Американского союза гражданских свобод.
Буоламвини и Иниолува Дебора Раджи из Университета Торонто сказали, что они изучали технологию Amazon, потому что компания продала ее правоохранительным органам. Аккаунт Раджи в LinkedIn говорит, что она в настоящее время является научным сотрудником по искусственному интеллекту в Google, который конкурирует с Amazon в предоставлении услуг облачных вычислений.
Буоламвини и Раджи говорят, что Microsoft и IBM улучшили свою технологию распознавания лиц, так как исследователи обнаружили подобные проблемы в исследовании мая 2017 года. Второе исследование, в котором участвовал Amazon, было проведено в августе 2018 года. Их доклад будет представлен в понедельник на конференции по искусственному интеллекту в Гонолулу.
Вуд сказал, что Amazon обновил свою технологию с момента проведения исследования и провел собственный анализ с «нулевым ложным совпадением».
Сайт Amazon отмечает Rekognition за то, что он помог офису шерифа округа Вашингтон в Орегоне ускорить процесс выявления подозреваемых по сотням тысяч фотографий.
У новоиспеченной ОС iOS 11 обнаружили проблемы с дизайном
V-образное НЛО в небе над Чили шокировало астрофизиков
Новые санкции против Российской Федерации одобрены сенатом США
Поговорим о маме? Уже известно, что Ибрагимович и Лукаку сказали друг другу
Ученые установили, что человеческая кисть создана для кулачных боев
