Программы ИИ смогут создавать поддельные видео и угрожать репутации
«Deepfake» технология искусственного интеллекта обещает создать реалистичные видео, которые почти невозможно отличить от реальных вещей. До сих пор он в основном используется для создания измененных порнографических клипов с изображением Celebrity женские лица , но когда — то методы совершенствуются, deepfake порноместь якобы , чтобы показать людям обманывают своих партнеров не будет далеко позади.
Но глубокие подделки не только становятся неприятным инструментом для преследователей и преследователей, но и подрывают доверие к политическим институтам и обществу в целом. Белый дом недавно оправдал временное запрещение репортеру участвовать в пресс-конференциях, используя, как сообщается, ускоренную видеозапись происшествия с журналистом. Представьте себе, что вы видите ультра-реалистичные, но искусственные кадры, на которых правительственные лидеры планируют убийства, генеральные директора вступают в сговор с иностранными агентами или известный филантроп, который жестоко обращается с детьми.
Так называемые поддельные новости уже усилили скептицизм многих людей по отношению к политикам, журналистам и другим общественным деятелям. Становится настолько легко создавать полностью вымышленные сценарии, что мы больше не можем доверять видеоматериалам за чистую монету. Это угрожает нашим политическим, правовым и медийным системам, не говоря уже о наших личных отношениях. Нам нужно будет создать новые формы консенсуса, на которых будет основываться наша социальная реальность. Новые способы проверки и распределения власти — некоторые политические, некоторые технологические — могут помочь нам достичь этого.
Поддельные скандалы, поддельные политики
Глубокие подделки пугают, потому что они позволяют кооптировать чей-либо образ и ставят под сомнение нашу способность доверять тому, что мы видим. Одним из очевидных применений подделок было бы ложное вовлечение людей в скандалы. Даже если впоследствии уличающая видеозапись окажется фальшивой, ущерб репутации жертвы может быть невозможно исправить. И политики могли бы подправить старые кадры, чтобы они выглядели так, как будто они всегда поддерживали то, что недавно стало популярным, обновляя свои позиции в режиме реального времени.
Могут даже быть общественные деятели, которые являются полностью вымышленными, оригинальными, но не подлинными . Между тем, видеозапись может стать бесполезной в качестве доказательства в суде. Вещательные новости могут быть сведены к тому, чтобы люди обсуждали, являются ли клипы подлинными или нет, используя все более сложный ИИ для обнаружения глубоких подделок.
Но гонка вооружений, которая уже существует между создателями фальшивого контента и теми, кто обнаруживает или опровергает дезинформацию (например, запланированную ложную новость Facebook «комната военных действий» ), скрывает более глубокую проблему. Само существование глубоких подделок подрывает уверенность и доверие, так же как возможность того, что выборы были взломаны, ставит под сомнение достоверность результатов.
Хотя некоторые люди могут быть поглощены глубокими подделками, это не настоящая проблема. На карту поставлена основная социальная структура, в которой мы все согласны с тем, что существует некая форма истины, и социальные реальности, основанные на этом доверии. Это не конец истины, а конец веры в истину — пост-трастовое общество. После массовой дезинформации даже честные общественные деятели будут легко проигнорированы или дискредитированы. Традиционные организации, которые поддерживали и обеспечивали консенсус — правительство, пресса — больше не будут соответствовать цели.
Блокчейн траст
Новые законы, регулирующие использование глубоких подделок, будут важны для людей, у которых есть разрушительные видео, сделанные из них. Но политика и право сами по себе не спасут наши системы управления. Нам нужно будет выработать новые формы консенсуса, новые способы согласования социальных ситуаций, основанные на альтернативных формах доверия.
Один из подходов заключается в децентрализации доверия, так что нам больше не нужно несколько учреждений, чтобы гарантировать, является ли информация подлинной, и вместо этого мы можем полагаться на нескольких людей или организации с хорошей репутацией. Одним из способов сделать это может быть использование блокчейна, технологии, которая поддерживает биткойны и другие криптовалюты.
Блокчейн работает, создавая открытую бухгалтерскую книгу, которая хранится на нескольких компьютерах по всему миру одновременно и защищена от несанкционированного доступа с помощью криптографии. Его алгоритмы позволяют компьютерам согласовывать достоверность любых изменений в бухгалтерской книге, что значительно затрудняет запись ложной информации. Таким образом, доверие распределяется между всеми компьютерами, которые могут тщательно проверять друг друга, повышая ответственность.
Более демократичное общество
Мы также можем обратиться к более демократичным формам правления и журналистики. Например, ликвидная демократия позволяет избирателям голосовать непосредственно по каждому вопросу или временно назначать свои голоса делегатам более гибким и подотчетным способом, чем передача полного контроля одной партии в течение многих лет. Это позволило бы общественности обращаться к экспертам для принятия за них решений, где это необходимо, но быстро выбрасывать политиков, которые игнорировали их взгляды или действовали нечестно, повышая доверие и легитимность в политической системе.
В прессе мы могли бы перейти к более совместному и демократизированному освещению новостей . Традиционные журналисты могут использовать позитивные аспекты социальных сетей для сбора информации из более разнообразных источников. Эти участники могли тогда обсудить и помочь исследовать историю, чтобы достигнуть согласия, улучшая репутацию СМИ.
Проблема с любой системой, которая опирается на репутацию ключевых людей для создания доверия, заключается в том, как предотвратить злоупотребление этой репутацией или ее мошенническое повреждение. Проверки, такие как проверка учетной записи «синих галочек» в Твиттере для общественных деятелей, могут помочь, но также необходимы более эффективные юридические и технические средства защиты: более защищенные права на неприкосновенность частной жизни, более эффективная реакция на антиобщественное поведение в Интернете и улучшенные технологии, улучшающие конфиденциальность, встроенные в дизайн.
Потенциальные последствия глубоких подделок должны действовать как призыв к действию при перестройке систем доверия, чтобы быть более открытыми, более децентрализованными и более коллективными. И сейчас самое время задуматься о другом будущем общества.
