Как бороться со зловещей ролью Deepfakes сыграет на выборах
У UC Berkely, профессор компьютерных наук Hany Farid разрабатывает систему обнаружения Deepfake. YouTube / UC Berkeley
«Есть очень высокая вероятность, что каким-то образом, в какой-то момент на выборах 2020 года, Deepakes сыграет какую-то роль», - сказал Джош Гинсберг, генеральный директор и основатель Zignal Labs Платформа Media Analytics на основе Сан-Франциско, которая работает с президентскими кампаниями. «Если мы не будем знать, где он собирается играть роль, вопрос в том, как мы коллективно отвечаем на это?»
Ginsberg знает; Он служил в трех президентских кампаниях, специализирующихся на кризисном управлению - быстро выявленным и смягчающимся репутационными рисками и информированием стратегических решений.
См. Также: почему AI Deepakes должен напугать живой Bejeezus из вас
Ненабженное сказать, Deepakes теперь превратились в категорию репутационного риска.
в упрощенных терминах, Deepfake - это как цифровая марионетка, которая использует машинное обучение и 3D-модели лица цели, что позволяет манипулировать Человек в видео, а также редактирование и изменить то, что они говорят. Это становится лучше: эти изменения, по-видимому, имеют бесшовные аудио-визуальные потоку без порезов прыжка.
Почему кто-то, возможно, хотеть использовать это на благо злодеяния?
Когда глубокие Пришел к радару Гинсберга в 2017 году, он не думал об этом как о чем-то, что могло бы повлиять на президентские выборы. Ведь, обратно в эти архаичные дни, Deepakes были в значительной степени использованы, чтобы поменять лицо Николая Кейдж в случайных сценах фильма.
Но это мир Tech.
"Я не обязательно Думаю, это доберется до техники, что это быстро, - сказал Гинсберг Наблюдателем. «Этими, я имею в виду способность к тому, чтобы кто-то мог создать Deepfake за 20 долларов на свой домашний компьютер, который мог бы буквально перейти на повествование в президентских выборах, действительно довольно страшно».
"и что Это реальность, которую мы смотрим сейчас, - он. Кампания, ему пришлось разобраться с дезамиссирующими оппозиционными исследованиями, которые содержали, скажем, в видео, которое было вытеснено на YouTube, и пошел с ума «Вирус» и поделился в социальных сетях. Ах, да, невинные дни 2016 года.
"Что уникально и отличается от Deepfakes - это действительно хорошие, действительно трудно проверить, - объяснил Гинсберг. «Вот где вы находитесь в некоторой нечестной территории».
Русские боты теперь старая школа в мире дезинформации.
Представьте себе произведенное октябрь, который выходит далеко за пределы шока Трамп доступа голливуд видео. (Хотя это настоящее ужасное видео оказало нулевое воздействие в отношении того, чтобы задержать козырь из Белого дома.) Это страшно думать о манипулированных словах, вложенными в рот политика - с видео, который мог бы пойти на вирус в считанные минуты.
И Конгресс ударил.
Ранее в этом месяце, Комитет по домашниму разведу, если это первое слушание по этому вопросу. Председатель комитета разведки Адам Шиф (D-Calif.), Называемый глубоким кошмарным угрозой для президентских выборов на 2020 году, что может покинуть избирателей «изо всех сил, чтобы различить, что реально и то, что подделка».
на слушании, Schiff сказал: «Сейчас настало время для социальных медиа-компаний в размещении политики для защиты пользователей от дезинформации, а не в 2021 году после того, как Viral Deepkakes загрязняла выборы 2020 года».
Ginsberg указал, что кандидаты уже на охрану.
"более сложные кампании. Абсолютно, - заявил он. «Мы работаем с рядом президентских кампаний прямо сейчас, и мы приносим каждое упоминание кандидата в конкурентах, о проблемах, раскоп-секунду это происходит».
Zignal Labs также координирует с рядом академических учреждений и исследователейПопробуйте найти лучшие технологические достижения для обнаружения Deepakes.
в УК Беркли, профессор компьютерных наук, профессор компьютерных наук Hany Farid разрабатывает систему обнаружения Deepfake, которая анализирует видео и треки, тонкие выражения лица, жесты и движения головы, которые являются Отличитесь для этого человека.
При наличии намещают, Media routeTes затем могут загружать видео, запустить анализ, а затем определить, является ли видео Deepfake или нет.
Счастливый конец История Deepfake правильно?
За исключением ... «Мы выросли, - сказал Фарид Вашингтон. «Количество людей, работающих над стороной синтеза видео, в отличие от стороны детектора, составляет от 100 до 1 ...»
Plus, есть еще один недостаток. «Это шаг один - уметь сделать это в исследовательской среде», - объяснил Гинсберг. «Возможность сделать это в масштабе, поскольку миллионы или миллиарды упоминаний происходят в разделе« Сплит-секунды », являются двумя разными вещами.«
true. Смешайте это с тем, насколько быстрым видео может пойти вирус на эти дни.
Посмотрите на возмущение, которое было вызвано, когда подделка (не глубокая) Нэнси Пелоси Пьяное видео. Это видео получил примерно три миллиона мнения после того, как поделился в социальных сетях. И как только это там, ущерб уже можно сделать.
"Это то, что делает глубокую проблему настолько страшно, - сказал Дженсбург. «Это ставит эти кампании в ситуацию, когда некоторые люди увидели это, прежде чем они что-то знали ... и дает им определенное восприятие».
Другой метод устранения неполадок для Zignal Labs является мониторинг того, как распространяется новости или информация о своих кандидатах - и вызова видео Deepfake, прежде чем они смогут пойти на вирусную.
"Вы можете начать делать такие вещи, как пороги оповещений как истории, поскольку сообщения начинают ускорить; Кампании могут быть предупреждены на этих вещах, - сказал Гинсберг.
Ранее, старый способ отслеживать кампанию, связанные с сотрудниками в задней комнате со стеной телевизоров, постоянно выполняя поиск Google News, чтобы увидеть, что новыеИстории появлялись о кандидате, а затем отслеживали, движутся ли истории, тренды, и положительный, либо отрицательный.
"Zignal Labs в основном предназначен для этого с технологией в гораздо более эффективном манера, - сказал Гинсберг о новых достижениях. «Мы принося в каждые публично доступные медиа-данные в средствах массовой информации из социальных сетей, традиционных медиа и телевидения, показывающие его очень простым в использовании приборной панели в режиме реального времени. Таким образом, вы можете увидеть каждое упоминание о том, как он придет и как он распространяется на всей медиа-спектре ».«
Режим управления кризисом для Deepfakes - затем отвечать и исправить запись как можно быстрее.
«Шаг номер один, ситуативная осведомленность», - объяснил GINSBERG. «Вам нужно получить предупреждение расщепленно-второе, что видео Deepfake Drops. Шаг второй для кампании состоит в том, чтобы проверить, правда ли это прав или если это нет. "
Для более очевидных видео Deepfake - говорят кандидат, что делает что-то абсурдное - это легко. Но также может быть очень тонкое использование роликов Deepfake, таких как манипулирование заявлением политики от 20 лет назад, что может принять кампанию немного времени для проверки. Таким образом, необходимо установить внутреннее устройство и механизмы для быстрого похоронить докопотурованное видео и исправить запись, показывая оригинальную версию, чтобы доказать, что другой - это подделка.
"так, когда вы двигаетесь больше В кризисное общение вы переезжаете в место упреждений и получения новостей и информации, что, эй, это подделка, это не реально », - сказал Гинсберг. «Посмотрите, какие фактические видео демонстрируют - это важно. Видео, изображения и аудио будут диффундировать его быстрее, чем все. Например, что, если ежедневно шоу использует глубокий как шутку?
"Я не уверен, что мы знаем, как некоторые из этих вещей будут игратьвышел, - сказал Гиннсберг. «Где находится линия между этим, и вы знаете, другие способы могут быть использованы глубокие эффекты и как это толкают в Интернете?»
alhough Мы уже видим слушания по этому вопросу, в прошлом году, когда Zuckerberg свидетельствовал перед Конгресс он должен был провести много времени, объясняющую концепцию Интернета для группы Crusty старых белых парней.
Это то, кто мы ожидаем создать эту новую и критическую правовую базу?
Также есть вопрос цензуры. Будет ли человек в состоянии создать глубокое видео политика для единственного намерения быть смешным и делиться его с друзьями, или все глубокие политики будут считаться вне закона и запрещены из Facebook?
«Есть процесс образования для всех на этих вещах», - сказал Гиннсберг. «Я думаю, что вы видите платформу, начинающуюся в пути и определить правила для того, как это работает. Это сложно, потому что откуда остановка речи? А потом они должны сделать такие решения.
В этом моменте вилкой в дороге Ginsberg чувствует, что ключевой компонент предназначен для публики для обучения себя как общество о выявлении Deepakes ,
"Должен быть определенный уровень бдительности среди избирателей, чтобы увидеть, является ли это заслуживающим доверия или нет», - сказал он. «Это новый мир, а кампании придется адаптировать. СМИ собираются надо адаптировать, избиратели придется адаптировать ... Много произошло в относительно коротком периоде времени ».
Надежда Гинсаберга - это то, что мы собираемся выяснить, как Обращайтесь с глубокими во время этого выбора цикла.
"Но посмотрите, он собирается играть роль, - заключил он.
комментариев