Как системы искусственного интеллекта могут угрожать демократии
Американский технологический гигант Microsoft объединился с китайским военным университетом для разработки систем искусственного интеллекта, которые потенциально могли бы усилить возможности государственного надзора и цензуры. Два американских сенаторов публично осудили партнерство, но то , что Национальные технологии обороны университета Китая хочет от Microsoft не единственная проблема.
Как показывает мое исследование , появление цифровых репрессий глубоко влияет на отношения между гражданином и государством . Новые технологии вооружают правительства беспрецедентными возможностями для мониторинга, отслеживания и наблюдения за отдельными людьми. Даже правительства демократических стран с сильными традициями верховенства закона испытывают искушение злоупотреблять этими новыми способностями .
В штатах с неподотчетными институтами и частыми нарушениями прав человека системы искусственного интеллекта, скорее всего, нанесут больший ущерб. Китай является ярким примером. Его руководство с энтузиазмом восприняло технологии искусственного интеллекта и создало самый совершенный в мире штат наблюдения в провинции Синьцзян , отслеживая ежедневные передвижения граждан и использование смартфонов.
Использование этих технологий представляет собой пугающую модель для коллег-автократов и представляет прямую угрозу для открытых демократических обществ. Хотя нет никаких доказательств того, что другие правительства повторили этот уровень надзора за ИИ , китайские компании активно экспортируют одни и те же базовые технологии по всему миру.
Растущая зависимость от инструментов ИИ в США.
Системы искусственного интеллекта повсюду в современном мире, помогая управлять смартфонами, поисковыми системами в Интернете, цифровыми голосовыми помощниками и очередями фильмов Netflix. Многие люди не могут понять, как быстро растет ИИ, благодаря постоянно увеличивающимся объемам данных, которые необходимо анализировать, совершенствуя алгоритмы и передовые компьютерные чипы.
Каждый раз, когда появляется больше информации, и анализ становится легче, правительства интересуются — и не только авторитарными. Например, в США в 1970-х годах были обнаружены откровения о том, что правительственные учреждения, такие как ФБР, ЦРУ и АНБ, создали обширные сети внутреннего наблюдения для мониторинга и преследования демонстрантов за гражданские права, политических активистов и групп коренных американцев. Эти проблемы не исчезли: цифровые технологии сегодня расширили возможности еще большего числа учреждений для проведения еще более навязчивого наблюдения.
Например, полиция США охотно использует технологии искусственного интеллекта. Они начали использовать программное обеспечение, предназначенное для прогнозирования преступлений, чтобы решить, куда направить офицеров для патрулирования. Они также используют распознавание лиц и анализ ДНК в уголовных расследованиях. Но анализ этих систем показывает, что данные, на которых обучаются эти системы, часто оказываются необъективными, что приводит к несправедливым результатам, таким как ложное определение того, что афроамериканцы более склонны к совершению преступлений, чем другие группы.
ИИ наблюдения по всему миру
В авторитарных странах системы ИИ могут непосредственно содействовать внутреннему контролю и надзору, помогая внутренним силам безопасности обрабатывать огромные объемы информации, включая сообщения в социальных сетях, текстовые сообщения, электронные письма и телефонные звонки, быстрее и эффективнее. Полиция может выявлять социальные тенденции и конкретных людей,которые могут угрожать режиму, основываясь на информации, раскрытой этими системами.
Например, китайское правительство использовало ИИ в широкомасштабных репрессиях в регионах, где проживают этнические меньшинства в Китае. Системы наблюдения в Синьцзяне и Тибете были описаны как « оруэлловские ». Эти усилия включали обязательные образцы ДНК , мониторинг сети Wi-Fi и широко распространенные камеры распознавания лиц , все они подключены к интегрированным платформам анализа данных. По данным Государственного департамента США, с помощью этих систем «произвольно задержаны» от 1 до 2 миллионов человек .
В моем исследовании рассматриваются 90 стран по всему миру с типами правительств от закрытых авторитарных до несовершенных демократий, включая Таиланд, Турцию, Бангладеш и Кению. Я обнаружил, что китайские компании экспортируют технологии видеонаблюдения по крайней мере в 54 из этих стран. Часто эта технология поставляется в рамках ведущей китайской инициативы « Пояса и дорог» , которая финансирует обширную сеть автомобильных, железных дорог, энергетических трубопроводов и телекоммуникационных сетей, обслуживающую 60% населения мира и экономику, которая генерирует 40% мирового ВВП.
Например, китайские компании, такие как Huawei и ZTE, строят «умные города» в Пакистане , на Филиппинах и в Кении , используя обширную встроенную технологию наблюдения. Например, Huawei оснастила филиал Bonifacio Global City на Филиппинах камерами высокой четкости, подключенными к Интернету, которые обеспечивают « интеллектуальное наблюдение 24/7 с помощью аналитики данных для выявления преступлений и управления трафиком».
Hikvision , Yitu и SenseTime поставляют современные камеры распознавания лиц для использования в таких местах, как Сингапур, — которые объявили о создании программы наблюдения с 110 000 камер, установленных на фонарных столбах вокруг города-государства. Зимбабве создает национальную базу данных изображений, которая может использоваться для распознавания лиц.
Однако продажа современного оборудования с целью получения прибыли отличается от обмена технологиями с явной геополитической целью. Эти новые возможности могут посеять семена для глобального наблюдения: поскольку правительства становятся все более зависимыми от китайских технологий для управления своим населением и поддержания власти, они столкнутся с большим давлением, чтобы соответствовать повестке дня Китая. Но сейчас кажется, что основной мотив Китая — доминировать на рынке новых технологий и зарабатывать много денег в этом процессе.
ИИ и дезинформация
Помимо обеспечения широких и детальных возможностей наблюдения, ИИ может помочь репрессивным правительствам манипулировать имеющейся информацией и распространять дезинформацию. Эти кампании могут быть автоматизированными или автоматизированными и развертывать гипер-персонализированные сообщения, направленные против определенных людей или групп или против них .
ИИ также поддерживает технологию, обычно называемую « Deepfake », в которой алгоритмы создают реалистичные подделки видео и аудио. Грязные воды между правдой и вымыслом могут стать полезными при жестких выборах, когда один кандидат может создать фальшивые видеоролики, показывающие действия оппонента и говорящие вещи, которых на самом деле никогда не было.
На мой взгляд, политикам в демократических странах следует тщательно обдумать риски систем ИИ для их собственных обществ и для людей, живущих при авторитарных режимах во всем мире. Критический вопрос заключается в том, сколько стран примут китайскую модель цифрового наблюдения. Но не только авторитарные страны чувствуют притяжение. И не только китайские компании распространяют эту технологию: многие американские компании, включая Microsoft, но и IBM, Cisco и Thermo Fisherтакже предоставили сложные возможности противным правительствам. Злоупотребление ИИ не ограничивается автократическими государствами.
Mazda представила новый революционный двигатель
Пользователь Reddit предположил, почему старые модели iPhone могут плохо работать
Унион Берлин забил 4 безответных гола в ворота Майнца
LG представила свою первую смарт-колонку с Google помощником
Космонавты принялись за обслуживание и ремонт батарей и кабелей у МКС
