Истории

Инструмент мошенников и угроза для актеров: к чему приведут реалистичные дипфейки

Истории
Дарья Сидорова
Дарья Сидорова

Редактор отдела «Истории».

Дарья Сидорова

Еще два года назад реалистичный дипфейк было невозможно создать без большого количества изображений (поэтому для этих целей чаще всего выбирали знаменитостей). А черты лица — в особенности рот, глаза и челюсть — требовали довольно много постобработки. К тому же ИИ-модели не работали достаточно быстро, чтобы стабильно отображать дипфейки в реальном времени.

Сегодня все это уже не актуально — правдоподобные дипфейки используются даже во время прямых трансляций.

Инструмент мошенников и угроза для актеров: к чему приведут реалистичные дипфейки

Технология дипфейков стремительно совершенствуется. Одно из доказательств — текущий сезон телепроекта «Америка ищет таланты» (America’s Got Talent). До его финала дошли участники от стартапа Metaphysic, которые выступили «с лицами» телеведущего Саймона Коуэлла и других судей конкурса — их дипфейки транслировались в реальном времени на экране.

В команде Metaphysic работает Крис Уме — один из ведущих дипфейк-художников в мире. Именно он создал ролики с актером Томом Крузом, которые завирусились в интернете полтора года назад. Уме прорабатывает каждую морщинку и микрожест и гордится тем, что создает максимально безупречные имитации лиц.

Сейчас в интернете свободно доступны программы, позволяющие практически без каких-либо технических навыков создавать довольно неплохие живые дипфейки. Эта технология улучшается настолько быстро, что удивляет даже тех, кто внимательно следил за ее развитием.

«Помню, как примерно два года назад кто-то спросил меня о живых дипфейках, и я сказал, что на это потребуется примерно пять лет. Я бы неправ», — рассказывает Хани Фарид, специалист в области компьютерных наук из Калифорнийского университета в Беркли. Фарид — один из ведущих мировых экспертов по аутентификации цифровых изображений.

Узнайте, как ускорить работу сайта на 20% и увелить число пользователей в 4 раза с помощью облачного провайдера. Подробнее по ссылке

По мнению бывшего юриста Тома Грэма, который сейчас занимается инвестициями в криптовалюты и является бизнес-партнером Metaphysic, только за последний год качество дипфейков его компании повысилось в 20 раз.

Во-первых, утверждает Грэм, это связано с методом, который использует Metaphysic. Стартап создает дипфейки с помощью не одной, а нескольких ИИ-моделей, каждая из которых обрабатывает различные части лица человека. К примеру, одна модель может отвечать лишь за движения бровей, а другая — губ.

Во-вторых, дипфейки, подобные тем, что Metaphysic демонстрирует на шоу «Америка ищет таланты», возможны благодаря значительному ускорению рендеринга изображений.

По словам Грэма, Metaphysic участвовала в шоу талантов отчасти для того, что показать развитие этой технологии. Также компания хотела подтолкнуть людей отказаться от старой идеи о том, что «видеть — значит верить».


Читайте по теме: Разработан ИИ, который обнаруживает дипфейки по отражениям в глазах


Сейчас Metaphysic разрабатывает дипфейки для голливудских фильмов и рекламы. Компания также запустила сторонний проект — Every Anyone. Он позволяет любому человеку создать из обычного селфи реалистичный дипфейк самого себя, который будет привязан к NFT. Это, рассказывает Грэм, должно предоставить людям возможность владеть собственным цифровым образом и контролировать то, как он используется. 

Такой дипфейк (Грэм и Уме предпочитают термин «гиперреалистичный цифровой аватар») криптографически записывается в неизменяемый цифровой реестр. В теории так люди будут знать, что взаимодействуют с определенным человеком — или, по крайней мере, с его фейковой версией — а не с самозванцем.

Эта технология станет ключом к воплощению метавселенной в реальность, утверждает Грэм. Он также считает, что гораздо лучше предоставить каждому возможность создавать собственный «гиперреалистичный цифровой аватар», чем передавать эту задачу (вместе со всеми биометрическими данными) технологическим гигантам.

«Every Anyone — это инструмент, позволяющий людям оказывать реальное воздействие на экономику Web3, — рассказывает он. — В Web2 мы — и пользователи, и потребители, и продукты. Однако в Web3 мы должны быть партнерами, а не продуктами».

Дипфейки как инструмент для мошенничества

Несмотря на все преимущества, существуют опасения по поводу того, что живые дипфейки могут улучшить мошеннические схемы. Технология уже используется, чтобы совершать финансовые преступления и распространять политическую дезинформацию через звонки по Zoom.

В августе топ-менеджер криптобиржи Binance заявил, что с помощью его дипфейка злоумышленники пытались обмануть руководителей криптопроектов (эти утверждения не прошли независимую проверку). А в июле ФБР предупредило, что люди могут задействовать дипфейки на онлайн-собеседованиях.

Metaphysic стремится к тому, чтобы ее технология никогда не использовалась для таких целей, подчеркивает Грэм. Компания помогла создать форум Synthetic Futures для всех, кто применяет дипфейки в развлекательных и других законных целях.

Участники Synthetic Futures будут обсуждать стандарты, которые позволят предотвратить злоупотребление этой технологией. Однако Фарид опасается, что эти стандарты появятся слишком поздно, и их будет недостаточно.

Тем временем ситуацией уже обеспокоены актеры. Одни боятся остаться без работы, другие — что молодых актеров будут вынуждать продавать права на бессрочное использование их биометрических данных развлекательным компаниям.

Грэм признает, что все эти вопросы необходимо решать путем регулирования и установления стандартов, к чему должен приложить усилия «каждый в этой индустрии».

Источник.

Фото на обложке: JpegPhotographer / Shutterstock

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе последних новостей и событий!

Нашли опечатку? Выделите текст и нажмите Ctrl + Enter

Материалы по теме

  1. 1 Теперь работодатель сможет сканировать ваш мозг, чтобы контролировать эффективность
  2. 2 Knowledge management: 4 новых направления, которые помогут управлять своими знаниями
  3. 3 Что такое метавселенная?
  4. 4 Форум «Технобудущее российского бизнеса» пройдет в Москве
  5. 5 «Манифест лонгтермистов» — как развивать технологии и жить, чтобы открывать галактики и решать глобальные проблемы
Cloud
Узнайте, какие возможности для бизнеса предоставляет облачный провайдер
Перейти