Использовать дипфейки можно и в конструктивных целей. Например, технологию используют в киноиндустрии, производстве рекламы или же реконструкции исторических событий.
Можно записать один рекламный ролик со знаменитостью, а после при помощи технологии добиться эффекта, как будто знаменитость говорит на языке страны дистрибуции продукта. Так британская компания Synthesia сняла социальную рекламу с участием футболиста Дэвида Бекхэма, который рассказывает об опасности малярии на девяти языках. Благодаря ИИ-обработке выглядит все так, будто он сам произносит слова на девяти разных языках (https://youtu.be/U-mg7a1vwkw).
Музей Сальвадора Дали «оживил» художника при помощи той же технологии Deepfake. Чтобы «оживить» художника, организаторам выставки пришлось задействовать актера и с помощью искусственного интеллекта наложить на него мимику художника. Разработчики использовали материалы из интервью и архивных видеозаписей Дали и обработали более 6000 кадров. В общей сложности у разработчиков ушло 1000 часов машинного обучения, чтобы обучить алгоритм распознавать и воспроизводить особенности его лица. (https://youtu.be/BIDaxl4xqJ4 ).
С помощью дипфейков журналисты-расследователи меняют внешность героев, чтобы сохранить анонимность героев в репортажах. Такой приём, например, использовал канал НВО при создании документального фильма «Добро пожаловать в Чечню».
Учитывая выше приведенные примеры можно сделать вывод, что сама по себе технология не может оцениваться как «плохая» или «хорошая». Вопрос лишь в том, для какой цели человек будет ее использовать.
Но как понять, что перед вами дипфейк?
Cогласно исследованиям, процент успеха в обнаружении дипфейка традиционными методами и с помощью специальных программ достаточно высок (95%, Marra et al). К примеру, одна из первых таких программ Shallow (http://shallow-ai.com/#/) делает раскадровку изображений лиц из видео, которые потом анализирует на аутентичность c изображениями, хранящимися в базе данных программы. То есть, один из недостатков программы – это ограниченное количество изображений.
Дипфейки можно определить и самим. Если пристально присмотреться, то вполне можно отличить сгенерированные изображения от реальных. В первую очередь, обратите внимание на размер изображения. Создавать реалистичные картинки высокого разрешения гораздо сложнее, чем маленькие, поэтому большим изображениям все еще можно доверять. Расслоение, затуманенность, резкий переход цвета лица и шеи, раздвоение границы лица и многие другие мелкие детали – все это указывает на дипфейк.
Во-вторых, присмотритесь к лицам, дабы отыскать ненатуральные асимметрии: возможно, разрез правого глаза не соответствует разрезу левого, или наклон головы не совпадает с положением лица и тд. В-третьих, обратите внимание на одежду и аксессуары, они даются нейросетям гораздо хуже, чем лица.
А на видео нужно следить за тем, как меняется выражение лица человека с течением времени. Если вы заметили, что люди на видео моргают крайне редко, либо неестественно и двигают глаза в разные стороны или вовсе не моргают – то это явный признак дипфейка.
Источник: BRYCACentralAsia
