Microsoft бьет тревогу по поводу технологии распознавания лиц
Как мониторинг в китайском стиле может прийти в Соединенные Штаты.
Сложные технологии распознавания лиц лежат в основе многих антиутопических инициатив в области безопасности в Китае. С 200 миллионами камер наблюдения — более чем в четыре раза больше в Соединенных Штатах — системы распознавания лиц Китая отслеживают членов уйгурского мусульманского меньшинства, блокируют входы в жилые комплексы и стыдят должников, показывая их лица на рекламных щитах.
Я часто включаю эти истории здесь, потому что кажется неизбежным, что они доберутся до Соединенных Штатов, по крайней мере, в некоторой форме. Но прежде, чем они это сделают, коалиция общественных и частных интересов пытается бить тревогу.
AI Now — это группа, связанная с Нью-Йоркским университетом, в которую входят сотрудники технических компаний, включая Google и Microsoft. В новой статье, опубликованной в четверг , группа призывает правительства регулировать использование технологий искусственного интеллекта и распознавания лиц, прежде чем они смогут подорвать основные гражданские свободы.
Авторы пишут:
Распознавание лица требуют строгого регулирования для защиты общественных интересов. Такое регулирование должно включать национальные законы, которые требуют строгого контроля, четких ограничений и прозрачности для общественности. Сообщества должны иметь право отказаться от применения этих технологий как в государственном, так и в частном контексте. Простого публичного уведомления об их использовании недостаточно, и для любого согласия должен быть высокий порог, учитывая опасность репрессивного и постоянного массового надзора.
Исследователи AI Now особенно обеспокоены тем, что называется «распознаванием аффекта», и пытаются идентифицировать эмоции людей и, возможно, манипулировать ими, используя машинное обучение.
«Больше нет вопроса о том, существуют ли проблемы с подотчетностью» , — сказал соучредитель AI Now Мередит Уиттакер , работающая в Google, агентству Bloomberg: «Это то, что мы делаем с этим».
Позже в тот же день президент Microsoft Брэд Смит повторил некоторые из этих опасений в своей речи в Брукингском институте :
Мы считаем, что для правительств в 2019 году важно начать принимать законы, регулирующие эту технологию. Джин по распознаванию лиц, так сказать, только что вышел из бутылки. Если мы не будем действовать, мы рискуем проснуться через пять лет, чтобы обнаружить, что услуги по распознаванию лиц распространились таким образом, что обостряют социальные проблемы. К тому времени эти проблемы будут намного сложнее сдерживать.
В частности, мы не верим, что мир будет лучше всего обслуживать коммерческая гонка на дно, когда технологические компании вынуждены выбирать между социальной ответственностью и рыночным успехом. Мы полагаем, что единственный способ защитить себя от этой гонки — это создать уровень ответственности, который поддерживает здоровую рыночную конкуренцию. И твердый пол требует, чтобы мы обеспечили, чтобы эта технология, а также организации, разрабатывающие и использующие ее, руководствовались верховенством закона.
Газета выходит на следующий день после новостей о том, что секретная служба планирует развернуть распознавание лиц за пределами Белого дома . Предположительно, то, что агентство называет «тестом», на этом не остановится:
ACLU говорит, что нынешний тест кажется достаточно узким, но он «пересекает важную линию, открывая дверь для массовой, не подозревающей проверки американцев на общественных тротуарах» — как дорога за пределами Белого дома. (Предполагается, что технология программы позволяет анализировать лица на расстоянии до 20 ярдов от камеры.) «Распознавание лиц является одной из самых опасных биометрических характеристик с точки зрения конфиденциальности, поскольку ее можно легко расширять и злоупотреблять, в том числе путем массового развертывания. без ведома или разрешения людей ».
Возможно, непрекращающаяся паранойя американцев о большом правительстве не позволит внедрить больше инициатив в китайском стиле. Но я также могу представить сценарий, в котором популистский авторитарный лидер, постоянно ссылающийся на двойных призраков терроризма и неконтролируемой нелегальной иммиграции, сплачивает поддержку населения вокруг технологий наблюдения.
Это похоже на разговор, который стоит вести.
